??, ???? ?? AI ??? ??? ? ?? ??? ????. ?? ?? ??? ???? ?? AI ?? ?? ??? ?? ??? ????. 지난 5일 공개된 내용에 따르면 이번 AI 국제 조약은 총 57개국이 2년여 전부터 협의한 결과다. 하지만 그 내용이 지나치게 포괄적이어서 기업 CIO가 준수하기 위해 무엇을 해야 할지 불분명하다는 의견도 나오고 있다. , 은 최근 AI를 규제하기 위해 본격적으로 나선 바 있으며, 이번 조약에도 초기 서명국으로 참여한다. 이 외에도 안도라, 조지아, 아이슬란드, 노르웨이, 몰도바 공화국, 산마리노, 영국이 초기 서명국에 이름을 올렸다. 유럽평의회는 에서 “인공지능의 수명 주기 내 특정 활동으로 인한 다양한 맥락의 차별, 성 불평등, 민주적 절차의 훼손, 인간의 존엄성 또는 개인의 자율성 훼손, 억압 목적의 시스템 오용 등 심각한 위험 요소가 국제 인권법을 위반하고 있다”라고 밝혔다. 조약 내용‘인공지능과 인권, 민주주의, 법치에 관한 기본 협약’을 의미하는 은 사용자가 사람과 인공지능 중 누구와 소통하는지 기업이 명확히 알려야 한다고 강조했다. 다시 말해, 조약에 따라 기업은 “사람이 아닌 인공지능 시스템과 상호 작용하고 있음을 고지”하고 “인권, 민주주의, 법치에 관한 실제 및 잠재적 영향과 관련해 위험 평가를 수행”해야 한다. 또한 기업은 AI 사용과 관련해 가능한 모든 것을 문서화해야 하며, 문의하는 모든 사람이 이를 이용할 수 있도록 준비해야 한다. 조약에 따르면 기업은 “AI 시스템과 그 사용에 관한 관련 정보를 문서화해 영향을 받는 사람들이 볼 수 있도록 제공해야 한다. 해당 정보는 관련자가 시스템 사용을 통해 또는 실질적으로 이에 근거해 내린 결정, 시스템 자체의 사용 등에 이의를 제기할 수 있도록 충분”해야 한다. 또한 “사용자가 관할 당국에 민원을 제기”할 수 있어야 한다. 이중 잣대조약 협상 과정의 참관인인 ECNL(European Center for Not-for-Profit Law Stichting)의 법률 전문가 프란체스카 파누치는 에 “조약의 원칙과 의무가 너무 광범위하고 주의 사항으로 가득 차 있어 법적 명확성과 효과적인 집행 가능성이 우려된다”라고 언급했다. 규제 기준의 불명확성에 대한 우려는 AI의 군사적 활용 부분에서도 나타났다. 최종 문서가 “국방과 관련된 사항은 본 조약의 범위에 포함되지 않는다”라며 국가 안보 관련 사항을 명시적으로 제외했기 때문이다. 파누치는 또한 컴퓨터월드와의 인터뷰에서 최종 조약 내용이 기업과 정부를 매우 다르게 취급한다고 지적했다. 파누치는 이번 조약이 “민간 부문을 직접 대상으로 하는 것이 아니라 당사국에 대한 의무를 규정하고 있다”라면서 “당사국의 공공 부문에는 규정을 적용하되, 민간 부문은 각국 법에 적용 여부와 방법 선택 권한을 부여한다. 이는 미국, 캐나다, 이스라엘, 영국 등 민간 부문을 제외해 달라고 특별히 요청한 국가들과 타협한 결과다. 이들 국가는 사실상 조약을 유보할 수 있다”라고 말했다. 그는 “이런 이중 잣대는 실망스럽다”라고 덧붙였다. 구체적인 내용 부족캐나다의 컴플라이언스 기업 잉하우스 시스템(Enghouse Systems)의 임원 팀 피터스는 조약의 아이디어와 의도는 좋지만 구체적인 내용에는 의문이 든다고 언급했다. 그는 “유럽평의회의 AI 조약은 빠르게 진화하는 분야를 과거의 도구로 규제하려는 시도다. 다시 말해 의도는 좋지만 근본적으로 결함이 있다고 할 수 있다. 조약은 스스로를 기술 중립적이라고 선전하지만, 이런 중립성이 약점이 될 수 있다. AI는 하나의 솔루션이 아니다. 고객 서비스 봇부터 자동화 무기에 이르기까지 모든 것에 적용되는 포괄적 규칙을 세우려는 시도는 혁신을 억제하고 유럽을 규제에 묶어둘 수 있다”라고 지적했다. 피터스는 “기업 IT 경영진은 의도하지 않은 결과, 즉 적응 능력 저하, AI 개발 속도 저하, 인재와 투자가 더 AI 친화적인 지역으로 옮겨가는 것을 우려해야 한다. 궁극적으로 이 조약은 유럽에서 안전하게 사업하는 기업과 다른 곳에서 경계를 넓히는 기업 사이에 경쟁적 격차를 만들 수 있다. 사업 확장을 원하는 기업은 이 조약이 AI 윤리뿐만 아니라 혁신 역량에 미치는 장기적인 영향에 대해서도 비판적으로 생각해야 한다”라고 언급했다. 그는 조약이 궁극적으로 AI에 대한 기업의 노력을 약화시킬 수 있다고 덧붙였다. 또 다른 업계 임원인 트러스터블(Trustible)의 CTO 앤드류 가미노-청 역시 협약의 구체적인 내용이 부족하다고 말했다. 그는 “조약의 실제 내용은 특별히 강력하지 않고 대부분 원론적인 수준이다. 디지털 세계에서 주권 주체로서의 권리를 주장하기 위해 각국이 단합하려는 노력에 가깝다”라고 지적했다. 가미노-청은 “정부는 기술 기업을 규제하는 데 어려움을 겪고 있다. 일론 머스크와 브라질 정부 사이의 갈등이 이를 잘 보여준다. 브라질 정부는 머스크의 스타링크를 차단하려 했지만 이는 기술적으로 쉽지 않았다. 스타링크는 자체 콘텐츠 규칙을 설정하고 브라질 정부의 의도를 회피해 X에 대한 액세스를 허용할 수 있었다. 클리어뷰 AI(Clearview AI)의 경우도 마찬가지다. EU 내에서 법적으로 운영하지 않지만, EU 시민의 데이터를 보유하고 있다는 것만으로 국가의 GDPR 소송을 당했다”라고 말했다. 한편 EY(Ernst & Young)의 매니징 디렉터인 브라이언 레빈은 조약의 집행 가능성에 대해 의문을 제기했다. 미국이 서명국 중 하나이더라도 미국 내 기업에게 규제를 부과하기는 쉽지 않은데, 가 드물지 않기 때문이다. 그는 “한 번에 한 걸음씩 내딛어야 한다. 먼저 규칙과 규범이 무엇인지에 대한 합의에 도달하기 전까지 이를 강요할 수는 없다. AI의 ‘서부 개척시대’ 단계를 매우 빠르게 벗어나고 있는 만큼, 기업은 규제와 지침이 너무 적은 단계에서 너무 많은 단계로의 전환에 대비해야 한다”라고 조언했다. 유럽평의회에 따르면 이 조약은 “최소 3개 유럽평의회 회원국을 포함한 5개 서명국이 비준한 날로부터 3개월의 기간이 만료된 다음 달 1일에 발효될 예정”이다. dl-ciokorea@foundryco.com ???? ???? ??? ??? IT ??? ???? ??? ????! ??? ??? ??? ?????. ????