빠르게 발전하는 AI의 잠재적 위험, 세계의 규제 동향
법률·학술 기관의 자문 구하기, 임시 규정 시행, 위반 가능성 조사 등의 노력
우리 나라 - 국가 안보 위해 REAIM 2차 회의 개최, 그 외의 AI기술 발전에도 관심 필요
AI(인공지능)기술이 현대 사회에 큰 영향력을 발휘하고 있지만 그에 따른 부작용도 만만치 않다. 이에 국제사회도 AI를 통제하려는 법안을 마련하고 보완하는 등 속도를 올리고 있다. 급속한 진화를 거듭하는 AI의 규제를 위해 세계는 지금 어떤 노력을 기울이고 있을까.
AI기술은 제조와 물류, 의료 등의 산업에서부터 자율주행과 학습, 쇼핑 등의 생활 밀착까지 우리 사회 전반에 곳곳이 스며들어 활약하고 있다. 이로 인해 기업은 인건비 절약과 시간 단축, 정확한 결과물 등을 얻었고 사람들은 더 편리한 삶을 영위할 수 있게 됐다.
하지만 AI는 잠재적으로 많은 위험을 안고 있고 관련 범죄도 따라서 진화하고 있다. 30년 경력의 미국 변호사가 법원 제출용 서류에 챗GPT가 알려준 가짜 판례를 사용했다가 청문회에 회부되는가 하면, 화상전화나 영상으로 타인의 목소리와 얼굴까지 모방한 사례가 등장하며 개인정보 보호와 국가 안보에도 위협이 되었다.
또한 인간 고유의 영역이라고 여겨왔던 창작 분야까지 AI의 영향력이 확대되자 저작권 등 무형 재산 침해 문제와 인간 존엄에 대한 회의를 일으키기도 했다. 그 외에도 학습 데이터에 의존하는 AI는 편향성과 공정성에서 미흡할 수 있고 자율주행과 의료 측정 등에서 발생하는 결함은 인간의 안전과 직결되어 있어 불안을 가중시킨다.
더구나 AI의 발전속도가 상상을 초월할 정도로 빨라서 세계 각국의 정부가 합의하려는 기술 사용 규제가 복잡해지고 있다고 지난 13일 로이터 통신이 전했다.
먼저 AI규제에 대해 전문 자문을 구하는 단계의 국가들은 호주를 비롯해 아일랜드, 이스라엘, 미국 등이 해당된다.
미국은 자문을 구하면서 실무 그룹 출범을 진행 중이다. 지난 6월 주요 기술 기업에 AI가 오도하는 자료의 확산을 제안할 것을 촉구한 미국의 마이클베넷 상원의원은 4월 AI에 대한 미국 정책을 검토하기 위해 태스크포스를 구성하는 법안을 제출하기도 했다. 조 바이든 대통령은 같은 달 국가 안보와 경제에 대한 AI의 위험에 대해 전문가의 조언을 구하겠다고 말했다.
AI의 규정 기획에 들어간 곳은 영국과 EU(유럽연합), UN(연합국) 등이 있다.
영국은 지난 3월 인권, 보건 및 안전, 경쟁 규제 기관에게 AI관리 책임을 분담할 계획이라고 밝힌 바 있다. 최근엔 금융감독원(FCA)이 연구소 및 기타 법률·학술 기관과 협의 중이며, 경쟁 규제 기관은 새로운 AI통제가 필요한지 여부를 조사 중이다.
EU는 AI 규칙 초안에 대해 EU국가들과 세부 사항을 논의하는 단계에 있다. 얼굴 인식과 생체 감시가 국가 안보에 관련해 전면 금지인지 예외인지를 두고 의견이 갈릴 것으로 예상된다.
UN 안보보장 이사회는 이번 주 뉴욕에서 AI에 관한 첫 공식 논의를 개최하고 영국과 인공지능이 세계 평화와 안보에 미치는 영향에 대한 국제적 대화를 촉구할 예정이다.
중국은 임시 규정을 시행 중이다. 지난 4월 기업이 제품 출시 전에 당국에 보안 평가 제출을 원하는 AI서비스 관리 초안을 공개했고, 13일에는 기업이 보안 평가와 알고리즘 신고 절차를 수행하도록 하는 임시 규제 시행을 발표했다.
AI의 위반 가능성을 조사하고 있는 단계의 국가들로는 프랑스, 이탈리아, 일본, 스페인 등이다.
프랑스의 개인 정보 보호 감시 기관은(CNIL) AI의 위반 가능성을 조사 중이다. 그러나 프랑스 국회는 인권 단체의 경고를 무시하고 2024년 파리올림픽 기간 AI 영상 감시 사용을 승인했다.
다만 일본은 경제 성장과 첨단 칩 분야의 육성을 위해 AI기술에 의존하고 있는 만큼 엄격한 규제보다 미국에 가까운 규제를 도입할 것이 예상된다. 국가의 개인 정보 보호 감시 기관은 OpenAI에 사람들의 허가 없이 민감한 데이터 수집하지 말 것을 경고했다.
우리나라도 AI규제를 위해 적극 나서고 있다. 지난 2월 외교부는 '2차 군사 영역에서의 책임 있는 인공지능에 관한 장관급 회의(REAIM)를 한국에서 개최'할 것을 밝힌 바 있다.
REAIM은 군사 영역에서 AI 활용의 윤리적·법적 문제를 논의하기 위해 올해 처음으로 열린 국제 행사다. 1차 정상회의는 네덜란드와 한국이 네덜란드 헤이그에서 공동개최했다. 80개국 이상의 대표단이 참여한 REAIM 정상회의에 대해 박진 외교부장관은 'AI 이용에 대한 잠재적 위험을 알리고 국제적인 인식을 높이는 중요한 단계'라고 평가했다.
한편 일각에서는 우리나라 AI윤리 규제가 까다롭다는 말이 나오기도 한다. 오늘(18일) 이데일리에는 국내 스타트업들이 'AI윤리가이드라인 준수 여부를 스스로 테스트할 수 있는 진단키트나 찾아오는 변호사 서비스를 원한다'라고 전했다.
국가 안보뿐 아니라 그 외의 분야에서도 국내 AI기술의 발전과 국민의 편의에 든든한 지원자와 울타리가 될 수 있도록 우리 정부의 더 세심한 관심과 지지가 필요한 시점이다.
포인트경제 박찬서 기자