娇色导航

마이크로소프트, 아마존, 구글, 메타, 오픈AI 등 주요 AI 기술 기업을 포함한 16개 기업이 AI 서울 서밋 2024에서 새로운 안전 가이드라인과 기술 개발 성과를 담은 프론티어 AI 안전 약속에 서명했다. 

이번 약속에 서명한 기업은 아직 발표하지 않은 경우 자체 AI 모델의 위험성을 측정하는 방법을 설명하는 안전 프레임워크를 발표하겠다고 합의했다. 예를 들어 이런 위험성에는 악의적 행위자에 의한 모델 오용 가능성이 포함될 수 있다.

해당 프레임워크를 통해 기업들은 AI 기술 사용 시 감수해야 할 리스크를 최소화하는 안전 제동 장치를 설정했다. 이를 통해 AI 기술과 관련된 심각한 위험이 ‘견딜 수 없는 것으로 간주되는 시점’과 기업이 그 기준치를 넘지 않기 위해 무엇을 할 것인지 개요를 제시한다.

또한 기업은 AI 모델이나 시스템이 특정 기준치를 충족할 수 없는 경우 아예 개발하지 않거나 배포를 중단하기로 약속했다. 일종의 레드라인을 정한 셈이다. 기준치는 정부 기관을 비롯해 신뢰할 수 있는 주체들에 의해 정의되며, 내년 초 프랑스에서 개최될 ‘AI 액션 서밋’에서 공개될 예정이다.

프론티어 AI 안전 약속에 서명한 다른 11개 기업은 앤트로픽, 코히어, G42, IBM, 인플렉션AI, 미스트랄AI, 네이버, 삼성전자, TII(Technology Innovation Institute), xAI, 지푸.ai(Zhipu.ai)다.

다른 협약과 비교
이 협약에 앞서 EU, 미국, 중국 및 기타 국가들은 AI 안전을 위해 협력하기로 합의한 바 있다. 지난 11월 영국에서 열린 AI 안전 서밋에서는 이른바 블레츨리 선언이 발표됐다. 이를 통해 각국 정부는 AI가 가져올 기회와 위험에 대한 공동의 이해를 확립하고, 이 기술과 관련된 가장 중요한 과제를 해결하기 위해 협력해야 할 필요성에 공감했다.

프론티어 AI 안전 약속과 블레츨리 선언에는 분명한 차이점이 있다. 이번 약속이 기업 차원에서 이뤄진 것과 달리 블레츨리 선언은 정부 차원에서 이뤄졌기 때문에 향후 AI 관련 의사 결정에 있어 더 많은 규제 가능성을 시사한다.

사이도트(Saidot)의 AI 정책 매니저인 마리아 코스키넨은 프론티어 AI 안전 약속의 경우 “조직이 위험에 대해 자체적인 기준치를 설정할 수 있게” 해주지만, 잠재적으로 AI 안전을 규제하려는 EU AI 법처럼 더 높은 수준을 설정하는 것만큼 효과적이지는 않을 수 있다고 지적했다.

그녀는 “EU AI 법은 ‘시스템적 위험’이 있는 범용 AI 모델의 위험 관리를 규제하는데, 이는 영향력이 큰 범용 모델에 특화됐다”라고 말했다. 또한 그녀는 프론티어 AI 안전 약속이 조직에서 자체적으로 기준치를 정의하도록 맡긴 반면 EU AI 법은 “시스템적 위험을 정의해 이에 대한 지침을 제공하는데, 약속을 이행하는 조직뿐만 아니라 AI 솔루션을 채택하는 조직과 모델의 영향을 받는 개인에게도 더 확실성을 준다”라고 설명했다. 

AI 안전 가이드가 CIO에게 유용
그럼에도 불구하고 코스키넨을 비롯한 전문가들은 이번 약속이 현재 개발되는 AI 기술에 일정 수준의 안전성을 보장하고 올바른 방향으로 나아가는 첫 단추라고 말했다. 또한 기술이 발전함에 따라 앞으로 등장할 모든 AI 모델과 관련 혁신에 대한 선례를 제공할 수 있다고 언급했다.

코스키넨은 “이번 약속은 강제성 없이 자발적으로 진행됐지만, 다른 AI 조직이 따라야 할 선례가 될 것이다. 다른 조직들도 이를 따라 AI 혁신을 위한 더 안전하고 보안이 강화된 생태계를 조성함으로써 전체 AI 커뮤니티에 도움이 될 것으로 기대한다”라고 설명했다.

파리크 컨설팅의 CEO 파리크 자인은 이런 약속이 CIO가 향후 기술을 배포할 때 AI 관련 위험과 위험 관리 조치를 모두 이해하는 데 도움이 될 수 있다고 덧붙였다. dl-ciokorea@foundryco.com