AI 회사는 무엇이 자사 모델을 그토록 강력하게 만드는지 고민하는 데 많은 시간을 보냅니다. OpenAI는 업계가 자율적 행동부터 점점 더 정교해지는 사이버 기능에 이르기까지 다양한 위험과 씨름하고 있기 때문에 안전 문제 때문에 모델의 훈련을 일시적으로 중단하는 특이한 조치를 취하기도 했습니다.
그러나 AI 보안에는 간과하기 쉬운 또 다른 문제가 있습니다. 이러한 시스템에 이미 내장된 보호 기능이 모든 사람에게 반드시 동일하게 작동하는 것은 아닙니다. 의 새로운 보고서 나머지 세계 AI 보안 노력이 부유한 영어권 국가의 요구에 어떻게 초점을 맞추고 있는지 강조합니다. 이로 인해 아시아, 아프리카 및 기타 개발도상국의 사람들은 챗봇이 언어를 이해함에 따라 심각하고 잠재적으로 위험한 문제에 직면하게 될 수 있습니다.
AI 보안은 실리콘밸리 밖에서는 매우 다를 수 있습니다.
대규모 인공지능 회사 중 다수는 광범위한 신뢰성 및 안전 팀을 보유하고 있지만, 모델을 평가하는 데 사용되는 표준은 주로 고소득 국가에 따라 결정됩니다. 연구자들은 동일한 모델이 언어, 인프라, 법률 및 문화적 기대가 다른 장소에 배포되면 사각지대가 발생한다고 주장합니다. 건강 관리는 특히 문제가 되는 예를 제공합니다. 아프리카에서 사용되는 자연 AI 시스템에 대한 연구에서 의학 용어의 번역 오류가 밝혀졌습니다. 예를 들어, 티그리냐(Tigrinya)에서는 기계 번역이 이 질병을 매독과 혼동했고 심지어 “정맥 내 항생제”를 “정맥 내 살충제”로 번역하기도 했습니다.
문제는 번역 그 이상입니다. 또한 이 연구에서는 AI 모델이 훈련 데이터가 상대적으로 적은 언어에서 더 많은 환각을 나타낼 수 있다는 사실도 발견했습니다. 영어로 된 악의적인 요청을 안정적으로 수락하는 보안 패널은 해당 언어에서 성능이 저하되거나 우회하기 쉬울 수 있습니다. 사람들이 건강 및 기타 중요한 결정에 대한 정보를 얻기 위해 점점 더 챗봇을 사용하고 있기 때문에 이는 중요합니다. 이는 AI에 새로운 격차를 효과적으로 창출합니다. 두 사람이 동일한 제품을 사용할 수 있으며 서로 다른 언어를 사용한다는 이유만으로 매우 다른 수준의 보호를 받을 수 있습니다.
AI의 채택은 안전이 도착할 때까지 기다리지 않습니다.
많은 시장에서 AI에 대한 관심이 급속히 증가하고 있기 때문에 타이밍이 특히 중요합니다. 중국이 가장 명확한 예를 제시한다. 우리는 이미 AI 채택이 기술 회사를 넘어 학교부터 지방 정부까지 모든 분야에서 기술을 채택하는 것을 보았습니다. 심지어 한 기업이 고객에게 AI 표지판을 나눠주고 대기열을 관리하기 위해 인공지능을 구축하기 시작한 베이징의 만두 가게에도 적용되었습니다. 이러한 열정이 반드시 문제가 되는 것은 아닙니다. 그러나 연구자들은 안전 인프라가 곧 확충되어야 한다고 경고합니다.
정부가 대응하기 시작했습니다. 블레츨리 선언(Bletchley Declaration)과 올해 인도 AI 정상회담 등 국제 이니셔티브에서 AI 보안이 강조됐고, 중국도 개발도상국의 AI 위험을 관리하기 위한 메커니즘을 제안했다. 더 큰 과제는 “AI 보안”이 단지 미래형 모델이 경계를 벗어나거나 사이버 공격을 시작하는 것을 방지하는 것만을 의미하지 않는다는 것을 확인하는 것입니다. 이미 이러한 도구를 사용하고 있는 수백만 명의 사람들에게는 보안이 훨씬 더 쉬울 수 있습니다. 챗봇이 그들의 언어를 이해하고, 긴급한 상황이 있을 때 이를 이해하고, 위험할 정도로 부정확한 정보를 안정적으로 제공하지 않도록 하세요. AI가 일상생활에 스며들면서 이러한 문제는 더 이상 사소한 문제가 아닙니다. 이는 AI를 안전하게 만드는 요소의 일부입니다.
