영국 정부, 인종차별과 편견 우려 속 AI 도구 공개 > 뉴스

• 목록
• 게시판 리스트 옵션
  • 검색

영국 정부, 인종차별과 편견 우려 속 AI 도구 공개

영국 정부는 중앙 부서에서 사용하는 인공 지능(AI)과 알고리즘 도구에 대한 세부 정보를 공개하여 이러한 기술에 내재된 잠재적 편견과 차별적 관행에 대한 우려에 대응할 예정입니다. 이 결정은 공공 부문에서 AI 시스템을 배치하는 데 있어 더 큰 투명성과 책임을 오랫동안 주장해 온 활동가들의 승리를 의미합니다.

투명성과 책임성

Public Law Project(PLP)의 사람들을 포함한 캠페인 참여자들은 현재 정부에서 사용하는 많은 AI 도구가 투명성이 부족하고 특정 그룹을 부당하게 표적으로 삼을 수 있다는 우려를 제기했습니다. PLP의 수석 연구원인 캐롤라인 셀먼은 이러한 기술이 "합법적이고 공정하며 차별이 없어야 한다"는 필요성을 강조했습니다. 새로운 공개 등록은 어떤 도구가 사용되고 있는지, 어떻게 기능하는지, 배포의 근거를 공개하여 이러한 문제를 해결하는 것을 목표로 합니다.

역사적 논란

영국 정부 운영에서 AI를 둘러싼 논란은 새로운 것이 아니다. 2020년 내무부는 비자 신청을 분류하는 데 도움이 되도록 설계된 알고리즘이 "고착된 인종 차별과 편견"을 보인다는 주장이 제기된 후 사용을 중단했다. 이민자 복지 공동 위원회와 디지털 권리 단체인 폭스글러브와 같은 조직은 일부 국적에 자동으로 고위험 점수가 할당되어 비자 거부 가능성이 높아졌다고 강조했다. 가짜 결혼을 탐지하는 데 사용되는 AI 도구에 대해서도 비슷한 우려가 제기되었는데, 특정 국적이 더 자주 조사를 위해 플래그가 지정되었다.

규제 대응 및 미래 대책

정부의 데이터 윤리 및 혁신 센터(현재는 책임 있는 기술 도입 부서)는 이전에 AI 기술이 기존 편견을 강화하거나 새로운 형태의 차별을 만든 사례를 확인했습니다. 이에 대응하여 2021년 11월에 알고리즘 투명성 기록 표준이 도입되었습니다. 그러나 수용은 제한적이었으며 지금까지 공개된 기록은 9개에 불과하며 내무부나 연금부(DWP)와 같은 부서에서 운영하는 가장 논란이 많은 시스템과 관련된 기록은 없습니다.

최근의 발전은 보다 강력한 접근 방식을 보여줍니다. 과학, 혁신 및 기술부(DSIT)는 투명성 표준을 준수하는 것이 이제 모든 정부 부서에 필수임을 확인했습니다. 공무원들은 공공 서비스 전반에 걸친 광범위한 AI 애플리케이션을 포괄하는 추가 기록이 곧 공개될 것이라고 약속했습니다.

진행 중인 과제 및 법적 조치

이러한 발전에도 불구하고 우려는 여전히 남아 있습니다. 활동가들은 AI 시스템 운영과 편견을 완화하기 위해 마련된 보호 장치에 대한 보다 포괄적인 공개를 계속 요구하고 있습니다. DWP가 보편적 신용 청구에서 사기를 감지하기 위해 AI를 사용하는 것은 특히 논쟁의 여지가 있습니다. 이 부서는 공정성 평가를 실시했다고 주장하지만 보안상의 이유로 구체적인 세부 정보를 보류했습니다. PLP는 현재 DWP에 대한 잠재적인 법적 도전을 지원하고 있으며, 더 큰 투명성과 차별적 영향을 방지하기 위한 조치를 촉구하고 있습니다.

대중의 신뢰 구축

DSIT 대변인은 AI가 공공 서비스를 개선하는 데 있어 두 가지 잠재력을 가지고 있으며, 인간의 감독을 포함한 적절한 보호 장치를 유지하는 것의 중요성을 인정했습니다. 공공 부문 전체에 알고리즘 투명성 표준을 확대하기 위한 노력이 진행 중이며, 명확한 지침과 표준을 통해 대중의 신뢰를 육성하는 것을 목표로 합니다.

이러한 발전은 공공 행정에서 AI의 윤리적 사용에 대한 보다 광범위하고 지속적인 대화를 반영합니다. 이러한 이니셔티브의 성공은 정부의 투명성에 대한 의지와 모든 AI 기반 의사 결정에서 차별을 방지하고 공정성을 보장하기 위한 효과적인 조치의 실행에 달려 있습니다.

• 주소복사
• 
• 
•