유럽 연합은 인공지능을 규제하는 국제적인 법률인 ‘AI 법안’에 합의했습니다. 이 법안은 세계 최초로 광범위한 의미에서 인공지능의 사용을 제한하는 시도로, 인공지능이 가지는 사회 및 경제적 영향에 대비하려는 이니셔티브입니다. AI 법안은 아직 마지막 단계의 승인을 거쳐야 하지만, 정치적인 합의를 의미하므로 주요한 개요는 이미 결정되었습니다. 이 법안은 유럽 정치가들이 법 집행기관이나 국가 안보를 위한 중요한 서비스 운영과 같은 위험한 인공지능 사용에 초점을 맞추었습니다. 또한 ChatGPT 챗봇과 같이 대중적인 인공지능 시스템을 제작하는 회사들은 새로운 투명성 요구 조건을 따라야 합니다. 이 법안은 얼굴 인식 소프트웨어의 사용을 일부 제한하고, 깊페이크와 같은 조작된 이미지를 생성하는 소프트웨어가 인공지능에 의해 생성되었다는 것을 명확히해야 합니다. 이러한 규정을 어긴 기업은 전체 매출의 최대 7%에 해당하는 벌금을 부과받을 수 있습니다. 이 법안을 협상한 유럽 위원회의 한 Thierry Breton 위원은 “유럽은 글로벌 표준 수립자의 역할의 중요성을 이해하며 선구자로 자리잡았다”라고 말했습니다. 그러나 이 법안이 얼마나 효과적일지에 대한 의문도 여전히 남아있습니다. 많은 정책들은 12~24개월이 지나야 효과가 나타나므로 인공지능 개발에 있어서 실질적인 영향을 미칠 수 있는 상당한 기간입니다. 또한, 협상의 마지막 순간까지 정책 결정자들과 국가들은 언어와 혁신 육성과의 균형을 어떻게 조절할지에 대해 논의하면서 이 문제에 대하여 분란이 있었습니다. 하지만 이러한 논쟁들을 통과한 브뤼셀에서의 합의는 법의 기술적 세부 사항을 완료하기 위해 비공개로 진행될 것으로 예상되어 최종 통과가 지연될 수 있습니다. AI를 규제하는 것은 A.I.의 발전 능력을 보여주며 전세계적인 주제였습니다. 미국의 경우, 바이든 정부가 최근에 발표한 행정 명령은 부분적으로 A.I.의 국가 안보에 초점을 맞췄습니다. 영국, 일본 및 기타 국가들은 보다 더 수동적인 접근을 취하고, 중국은 데이터 사용 및 추천 알고리즘에 일부 제한을 두었습니다. 인공지능이 세계 경제를 재편하게 될 것으로 예상되므로 AI.를 규제함에 따라 추정된 수조 달러에 해당하는 가치가 걸립니다. 유럽은 AI 규제에서 가장 진출이 빠른 지역 중 하나였으며, 2018년부터 AI 법안 작업을 시작했습니다. 최근 몇 년간 E.U. 지도자들은 규제당국에게 의료 혹은은행업계의 규제와 유사한 수준의 감독을 가지도록 기술에 새로운 관리 수준을 도입하려고 노력해왔습니다. 이 범위에는 데이터 개인 정보 보호, 경쟁 및 컨텐츠 모니터링과 관련한 광범위한 법률이 이미 시행되었습니다. AI 법안의 첫 번째 초안은 2021년에 공개되었으며, 기술적 발전이 이루어짐에 따라 법안을 다시 작성해야 했습니다. 초기 버전에는 ChatGPT와 같은 일반적인 인공지능 모델에 대한 언급이 없었습니다. 정책 결정자들은 최소한의 감독과 제한이 있는 일정 집합의 응용 프로그램에 “위험에 주의한 접근”을 취할 것을 합의했습니다. 채용 및 교육과 같은 개인과 사회에 가장 큰 위험을 가하는 AI 도구를 개발하는 기업들은 위험 평가의 증거, 시스템을 훈련시키기 위해 사용된 데이터의 상세 및 프로그램이 인종적 편견을 지속시키는 것과 같은 해를 입히지 않는다는 확인을 규정 기관에 제공해야 할 것입니다. 또한 시스템을 생성하고 배포하는 과정에는 인간 감독도 필요할 것입니다. 인터넷에서 이미지를 대대적으로 추출하여 얼굴 인식 데이터베이스를 생성하는 것과 같은 일부 동작은 명백하게 금지될 것입니다. 유럽 연합에서 이를 논의하는 동안 논란이 있었으며, 이는 인공지능이 입법자들을 혼란스럽게 하는 한 예입니다. 유럽 연합 관리자들은 더 나은 기업들이 구글이나 OpenAI와 같은 미국 회사에 따라잡으려는 것을 무력화시킬까 염려했습니다. Breton은 이들 가장 큰 AI 모델의 제작업체가 어떻게 작동하는지에 대한 정보를 공개하고 “체계적 위험”을 평가하는 요구 사항을 추가했다고 말했습니다. 이러한 새로운 규정은 Google, Meta, Microsoft 및 OpenAI와 같은 주요 AI 개발자뿐만 아니라 예상대로 교육, 의료 및 은행과 같은 분야에서 이 기술을 사용할 다른 사업체들에게도 영향을 미칠 것입니다. 정부는 범죄사법 및 공공 혜택 할당에서도 AI에 더 의존하려고 합니다. 그러나 집행이 어떻게 이루어질 것인지는 여전히 불분명합니다. AI 법안은 유럽 연합 27국의 규제 기관에게 관여하고 있으며, 정부 예산이 제한적인 상황에서 신규 전문가를 고용해야 합니다. 기업들이 법의 변칙을 법정에서 테스트하면서 법적 도전이 예상됩니다. 이벤트 유럽의 법률 시행에 대해서는 일관성이 없어서 치명적인 상황이 발생할 수 있다고 이르셰 말한 크리스 쉬리사캐르는 AI. 법안에 대해 유럽 의회의 조언을 받은 아일랜드 시민 자유 협의회의 고문입니다.

유럽 연합, 인공지능 규제에 대한 합의

1. 유럽 연합 정책 결정

유럽 연합의 정책 결정자들은 인공지능 규제를 위한 새로운 법을 마련하기 위해 합의에 도달했습니다. 이는 인공지능의 사용을 제한하기 위한 세계에서 가장 포괄적인 시도 중 하나입니다.

1.1 유럽 연합 정책 결정

유럽 연합은 인공지능을 규제하기 위한 법안인 A.I. Act에 대한 합의를 이루었습니다. 이 법안은 해당 기술의 광범위한 사회적 및 경제적 영향을 고려하여 기술의 잠재적 이점을 활용하면서 가능한 위험 요소를 방지하기 위한 글로벌 기준을 제시합니다.

1.2 인공지능 규제의 필요성

인공지능의 발전과 함께 이에 따른 위험 요소도 증가하고 있습니다. 자동화된 작업, 온라인에서의 잘못된 정보 전파, 국가 안보 등의 가능한 위험을 방지하기 위해 인공지능 규제가 필요합니다.

1.3 인공지능 규제의 주요 내용

유럽 연합은 주로 회사와 정부의 위험도가 높은 인공지능 사용에 초점을 맞추었습니다. 이는 경찰과 정부에 의한 얼굴 인식 소프트웨어 사용과 물과 에너지 등 중요한 서비스의 작동과 같이 인공지능의 일반적인 목적 시스템에 대한 새로운 투명성 요구사항을 설정합니다. 또한, 챗봇 및 딥페이크와 같은 조작된 이미지를 생성하는 소프트웨어는 사용자에게 해당 내용이 인공지능에 의해 생성되었음을 명확하게 알려주어야 합니다. 위반한 기업은 전역 매출의 7%에 해당하는 벌금을 부과 받을 수도 있습니다.

2. 유럽 연합의 인공지능 규제 방향성

유럽 연합은 인공지능 규제를 위한 방향성을 설정하였습니다. 이는 다음과 같습니다:

2.1 위험도 기반 접근 방식

유럽 연합은 인공지능을 규제하는 데에 위험도 기반 접근 방식을 채택하였습니다. 즉, 일정한 응용 프로그램은 가장 많은 감독과 제한을 받게 됩니다. 채용 및 교육과 같이 개인과 사회에 가장 큰 잠재적 위험을 야기할 수 있는 인공지능 도구를 생산하는 회사는 위험 평가, 시스템 훈련에 사용된 데이터 분석, 인종적 편견을 지속시키지 않는 등 리스크 평가, 데이터 공개 등의 정보를 규제기관에 제공해야 합니다. 또한, 시스템의 생성 및 배포 시 인간의 감독이 필요합니다.

2.2 대형 인공지능 모델에 대한 투명성 요구

유럽 연합은 가장 큰 인공지능 모델 제작자들이 그들의 시스템이 작동하는 방식에 대한 정보를 공개하도록 요구하고 있습니다. 이는 “체계적 위험”에 대한 평가와 관련이 있습니다.

2.3 얼굴 인식 소프트웨어 사용의 제한

정부와 경찰에 의한 얼굴 인식 소프트웨어의 사용은 특정한 안전과 국가 안보 예외 사항을 제외하고 제한될 것입니다.

3. 유럽 연합의 인공지능 규제 내용

유럽 연합의 인공지능 규제 법안에는 다음과 같은 중요한 사항들이 포함되어 있습니다:

3.1 인공지능 규제 법안의 핵심 사항

인공지능 규제 법안의 핵심 사항은 위험도 기반 접근 방식, 인공지능 모델에 대한 투명성 요구, 얼굴 인식 소프트웨어의 제한 등을 포함하고 있습니다.

3.2 규제 위반 사업체에 대한 처벌

규제를 위반한 사업체는 최대 전역 매출의 7%에 해당하는 벌금을 부과 받을 수 있습니다.

3.3 규제 적용의 시간적인 제약

일부 규제 적용은 인공지능 개발에 상당한 시간이 소요될 것으로 예상됩니다.

4. 유럽 연합의 인공지능 규제 협상과정

유럽 연합의 인공지능 규제 협상은 다음과 같은 과정을 거쳤습니다:

4.1 협상의 기간과 결론

협상은 총 세 일의 협상 과정을 거쳤으며, 수요일 오후 시작된 22시간의 초기 세션을 포함하고 목요일까지 진행되었습니다. 최종 합의는 기술적인 세부 사항을 완료하기 위해 뒷담화 형식으로 계속될 것으로 예상되었습니다. 합의에 대한 투표는 유럽 연합 내 27개 국가의 대표로 구성된 유럽 의회와 유럽 연합 참의원에서 진행될 예정입니다.

4.2 협상 과정에서의 문제점

인공지능에 대한 규제를 놓고 협상 과정에서는 여러 문제점이 있었습니다. 기술 혁신을 일으키는 필요성과 잠재적인 위험 방지 사이의 균형을 맞추는 것에 대한 의견 충돌이 있었습니다.

5. 인공지능 규제의 글로벌 영향

유럽 연합의 인공지능 규제는 전세계적으로 주목받고 있으며, 그 영향력은 다음과 같습니다:

5.1 대형 인공지능 기업의 영향

구글, 메타, 마이크로소프트, 오픈AI와 같은 대형 인공지능 개발자뿐만 아니라 교육, 의료, 금융 등 다른 업계에서도 이러한 규제는 영향을 미칠 것으로 예상됩니다.

5.2 인공지능 기술의 산업적 가치

인공지능이 전 세계 경제를 재편할 것으로 추정되며, 이에 따른 산업적 가치는 수조 달러에 이를 것으로 예상됩니다.

5.3 규제의 실행과 문제점

인공지능 규제는 27개 국가의 규제기관과 많은 전문가의 참여를 필요로 합니다. 예산부족 상황에서 신규 전문가 고용은 어려운 상황일 수 있으며, 기업들이 이러한 새로운 규제에 대해 법적 쟁점을 제기할 가능성도 있습니다.

6. 보다 강력한 인공지능 규제를 위한 도전

유럽 연합은 보다 강력한 인공지능 규제를 위해 다음과 같은 도전에 직면하고 있습니다:

6.1 유럽 연합의 규제 역량

유럽 연합은 인공지능 규제를 위한 규제 역량을 강화해야 합니다. 예산 제한이 있는 상황에서도 효과적인 규제를 시행하기 위해 적절한 역량을 확보해야 합니다.

6.2 규제 실행의 중요성

강력한 규제를 마련할 수 있더라도 실행력이 부족하다면 그 가치는 퇴색될 수 있습니다. 유럽 연합은 이러한 규제 실행에 충실해야 합니다.