기타 AI 큰그림
페이지 정보
본문
우리 모두는 이 진부한 이야기를 알고 있습니다. 기계가 너무 지능적이 되어 겉보기에 의식이 우리 의식과 구별할 수 없게 되고, 그러면 우리를 능가하고, 심지어 우리에게 반기를 들기도 합니다. 이러한 기술, 소위 인공 일반 지능(AGI)을 현실로 만들기 위한 노력에 투자가 쏟아지고 있는데, 우리는 이런 시나리오를 얼마나 두려워해야 할까요? MIT의 다론 에이스모글루에 따르면, "AGI로 인한 재앙적 위험"에 초점을 맞추는 것은 과도하고 잘못된 것입니다. "(도움이 되지 않는) AI를 의인화"하고 "잘못된 대상에 초점을 맞추게 하기" 때문입니다. 더 생산적인 토론은 AI가 좋은 용도인지 나쁜 용도인지를 결정하는 요인에 초점을 맞출 것입니다. "[기술]을 통제하는 사람은 누구이며, 그들의 목표는 무엇이며, 어떤 종류의 규제를 받는가." 조셉 S. 나이 주니어는 미래에 AGI가 어떻게 되든 자율 무기와 새로운 형태의 생물학적 전쟁과 같은 "오늘날의 좁은 AI로 인한 위험 증가"는 "이미 더 큰 관심을 요구한다"는 데 동의합니다. 그는 중국이 이미 "AI 군비 경쟁"에 큰 돈을 걸고 있으며, 훈련 모델을 위한 "데이터 접근에 대한 법적 또는 개인정보 보호 제한"이 상대적으로 부족하다는 것과 같은 "구조적 이점"을 활용하고자 한다고 지적합니다. 오스카상을 수상한 영화 감독이자 기술 투자자인 찰스 퍼거슨이 설명했듯이, 중국은 현재 "드론 및 로봇과 같은 대량 생산된 이중 용도 하드웨어의 세계 시장을 지배하고 있습니다." 미국, 서유럽, 대만, 한국은 여전히 AI 기반 제품의 기반이 되는 "스택"을 구성하는 대부분의 기술에서 중국(및 러시아)을 앞서고 있지만, "리드가 좁아지고 있습니다." 정책 논의와 입법 과정의 느린 속도와 "펜타곤과 기존 방위 계약자의 제품 주기는 말할 것도 없고"를 감안할 때, 중국은 곧 뒤처질 수 있습니다. 중국이 빠르게 발전하고 있는 또 다른 분야는 얼굴 인식 AI와 같은 감시 기술입니다. MIT의 Martin Beraja, Harvard의 David Y. Yang, Oxford 대학의 Noam Yuchtman이 최근 연구에서 발견했듯이, "독재 국가와 약한 민주주의"가 중국이 판매하는 것을 사기 위해 줄을 서고 있습니다. 우려스러운 점은, 그들이 국내 불안을 겪는 해에 특히 그럴 가능성이 높고, 이러한 국가들은 "감시 AI 수입이 적은 다른 국가보다 성숙한 민주주의로 발전할 가능성이 낮습니다." 부정적 외부 효과를 발생시키는 다른 상품과 마찬가지로 "더 엄격한 AI 무역 규제"가 필요합니다.
댓글목록
등록된 댓글이 없습니다.
