AI 시대에 데이터 보안은 소비자에게 가장 중요한 요소입니다.
AI의 급속한 발전으로 사람들은 걱정하거나 때로는 당황하는 경향이 있습니다. 소매업에서 AI의 윤리적 의미는 종종 벅차고 해결하기 어려울 수 있으며, 고객과 소매업체 모두에게 앞으로 나아갈 길이 항상 명확하지는 않습니다. 그러나 더 냉정한 소매업체는 대부분 소비자가 진정으로 우려하는 것, 즉 데이터 보안을 이해하고 보호하기 위해 노력해야 합니다.
데이터 보안은 새로운 것이 아니지만 모든 산업에서 AI 사용이 증가함에 따라 고객 데이터를 보호하는 것이 얼마나 필요한지가 더욱 커졌습니다. 그리고 소매업체가 강력한 헤드리스 커머스 모델을 활용하려면 소비자의 최우선 관심사를 우선시해야 합니다.
AI 사용이 보편화됨에 따라 데이터 보안이 임무에 매우 중요해질 것입니다.
소매업에서 AI의 실행 가능한 비즈니스 사용 사례(따라서 이점)의 수가 증가함에 따라 과제와 위험도 증가합니다. 고객 우려는 소매업체의 책임이 되며, 그 중에서도 엄격한 데이터 보안이 가장 중요합니다. 사이버 범죄가 증가하는 가운데 데이터 침해를 피하는 것은 소비자를 만족시키고자 하는 기업에 더욱 중요해질 것입니다.
기업은 강력한 AI로 역량을 확장하는 동시에 방대하고 증가하는 양의 데이터를 수집하고 있습니다. 그러나 거의 모든 필수 사용 사례와 관련된 매우 구체적인 통찰력을 얻기 위해 이 데이터를 마이닝하고 있습니다. 이는 소매업체가 적절하게 자리 매김하는 한 최대한 활용할 수 있는 대규모 언어 모델(LLM)의 잠재력이 커지고 있음을 보여줍니다. 데이터는 힘과 같으므로 올바른 데이터여야 합니다.
데이터 침해는 항상 리테일러의 우려 사항이었지만 AI는 위험 수준을 높입니다. 리테일러와 타사 공급업체 LLM은 모두 데이터 침해로부터 보호하기 위해 엄격한 보호 장치가 필요합니다. LLM 프롬프트에서 생성된 대량의 데이터는 외부 당사자, 특히 소프트웨어 공급업체와 공유해서는 안 됩니다.
또한, 소매업체는 AI 환각의 의미에 대비해야 합니다. 즉, 기술이 진실이라는 명목으로 정보를 조작할 때입니다. AI 환각은 다양한 문제를 일으킬 수 있습니다. 잘못된 제품 추천으로 고객을 오도하는 것부터 거래가 회사의 반품 정책 자격에 부합하지 않음에도 불구하고 반품 및 교환을 유도하는 것까지 다양합니다.
AI에 의존하는 소프트웨어 공급업체와 소매업체는 모두 이러한 기능이 고객에게 미치는 영향에 대해 전적인 책임을 져야 합니다.
소비자들은 AI의 데이터 보안에 대해 어떻게 생각할까?
콜센터 상담원은 고객 문제를 신속하게 해결하고 고객과 리테일러를 효과적으로 만족시키는 데 필요한 지식을 갖추고 있습니다 . 하지만 그렇다고 해서 소비자가 반드시 반품 프로세스에서 봇을 실수로든 의도적으로든 속이는 것을 생각하고 있다는 것은 아닙니다.
대부분 고객은 최소한 AI의 기본을 이해하고 있으며, Talkdesk의 편향과 윤리적 AI에 대한 리테일 소비자 여론 조사에 따르면 약 3분의 1이 자신이 지식이 있다고 생각합니다. 하지만 설문 조사의 한 가지 하이라이트는 응답자의 70% 이상이 제품 추천을 통해 브랜드가 직접 대화를 듣거나 검색 기록을 통해 자신을 추적하는 것처럼 느꼈다고 확인했다는 것입니다. 이는 브랜드가 고객 데이터를 안전하게 유지하기 위해 충분히 노력하지 않는 반면 AI는 계속해서 더욱 강력해지고 있다는 것을 시사합니다.
한편, 설문에 참여한 사람의 약 5분의 4는 리테일러가 투명하고 책임감 있는 AI를 사용하면 해당 리테일러에 대한 신뢰가 높아질 것이며, 리테일러가 고객 데이터를 사용하여 AI 모델을 알리는 데 대한 동의를 명시적으로 구하길 원한다고 답했습니다. 더욱이, 응답자의 약 90%가 이러한 투명성을 강제하기를 원했고, 거의 절반이 책임감 없는 AI 사용으로 인해 쇼핑 경험이 덜 개인화되고 포용적이지 않을까 걱정했습니다. 이는 리테일러가 걷고 싶어하지 않는 AI 경로입니다. 대신 리테일러는 고객에게 데이터 보안이 핵심인 윤리적이고 책임감 있는 AI 사용에 대해 공개적이고 솔직하게 알려야 합니다.
중요한 것은 고객이 소매업체에 무엇을 기대하는지 뿐 아니라, 소매업체가 무엇을 해야 하는지에 대한 것입니다.
2018년에 도입된 획기적인 캘리포니아 소비자 개인정보 보호법(CCPA)은 원래 2년 전인 2016년에 EU가 발표한 보안 중심의 일반 데이터 보호 규정(GDPR)의 뒤를 바짝 쫓았습니다. 보안에 대한 기본 가정은 변하지 않았지만 대화는 바뀌었습니다. 이제는 소비자 개인정보 보호에 관한 것입니다.
CCPA는 리테일러가 자신의 데이터가 사용되었는지 묻는 고객에게 확인하도록 요구합니다. 불행히도 리테일러는 처음에는 이를 추적하지 않았습니다. 하지만 이제 고객 참여를 더 잘 따를 수 있도록 고객 데이터 플랫폼(CDP)에 투자하고 있습니다.
GDPR과 Talkdesk 개인정보 보호정책은 모두 쿠키 와 광고 목적으로 쿠키 기반 데이터를 사용하는 것에 대한 Talkdesk의 입장을 알려줍니다. 이러한 종류의 진술은 광고에 데이터를 사용하고 싶지 않거나 사용에 대한 투명성을 더 원하는 고객에게 리테일러가 보낸 응답입니다. 이는 기술 및 리테일 산업 모두에 큰 영향을 미쳤습니다.
브랜드는 여전히 얻을 수 있는 데이터를 기반으로 프로그램을 개발하는 방법을 알아내고 있습니다. 단, 고객 기대에 따라 엄격하게 보안되고 기밀로 유지되어야 합니다. 이상적으로는 고객이 요청하기 전에 이 작업을 수행해야 합니다.
소매업 분야의 AI 윤리는 소매업체의 데이터 개인정보 보호 문제에 대한 새로운 반복을 나타냅니다.
데이터 표준을 확보하는 대부분의 법률은 이미 시행 중입니다. AI가 발전하는 가운데 윤리에 대한 대화는 그 연장선일 뿐입니다. 소매업체의 요구 사항은 AI를 통제하는 정부 규제가 더 많아짐 에 따라 변화하고 위치에 따라 달라집니다 .
소비자들은 다음을 원합니다.
소매업체가 데이터를 어떤 용도로 사용하는지 알아보세요.
자신의 데이터에 대한 접근 권한.
소매업체가 원할 경우 데이터를 사용하지 못하도록 합니다.
AI를 레이어로 적용하면 기반은 동일하지만 질문은 다르게 구성됩니다. 이제 리테일러는 고객이 AI가 생성한 추천에 고객 데이터를 사용하는 것을 허용하는지 물어봐야 하는데, 이는 전체 고객 데이터베이스에서 구동할 때 훨씬 더 강력합니다.
규제와 법률이 통과되었을 당시 소매업체는 데이터를 보호할 선택권이 없었고, AI 시대에도 데이터를 보호할 선택권이 없습니다.
