유럽이 인공지능에 관한 혁명적인 규제 협약에 동의했다. 이 협약은 정부의 생체 인식 감시와 ChatGPT와 같은 인공지능 시스템의 규제에 대한 규칙을 포함하고 있다. 유럽 연합은 이번 협약을 통해 인공지능에 관한 법률을 제정하는 세계 주요 강대국으로서 최초로 나아가게 되었다. 이 협약은 EU국가와 유럽의 의회 멤버들 간에 금요일에 도달되었으며, 전날 거의 24시간에 걸친 토론을 따른 약 15시간의 협상 끝에 도출되었다. 양측은 앞으로의 몇 일 동안 세부사항을 논의할 예정이며, 이는 최종 법률의 모양을 변경시킬 수 있다. 유럽 위원회는 가장 중요한 기초 모델과 일반적인 목적의 인공지능 시스템이 시장에 출시되기 전에 투명성 의무를 준수해야 한다는 협정을 요구한다. 이는 기술 문서 작성, EU 저작권법 준수, 훈련용 콘텐츠에 대한 상세 요약 공개 등을 포함한다. 유럽을 대표하는 심각한 위험을 가진 기초 모델은 모델 평가, 체계적 위험 평가 및 완화, 적대적 테스트 수행, 유럽 위원회에 대한 심각한 사건 보고, 사이버 보안 보장, 에너지 효율성에 대한 보고서 작성 등을 요구한다. 이와 비슷하게 체계적 위험을 가지는 GPAI는 새로운 규제에 대응하기 위해 업무 관행 규정을 의존할 수 있다.
유럽, 인공지능 규제 협약에 합의
유럽은 인공지능 사용에 대한 유럽 연합 규칙을 도출하기 위해 역사적인 합의에 도달했습니다. 유럽 국가들과 유럽 의회 구성원들 간의 합의는 거의 15시간에 이르는 협상을 거쳐 이루어졌으며, 이전 날 거의 24시간에 이르는 토론을 거치고 이루어진 것입니다. 양측은 앞으로 몇 일 동안 세부 사항을 조율할 예정이며, 이로 인해 최종 법안의 형태가 변경될 수 있습니다. 이 합의로 인해 유럽은 인공지능을 규제하는 법을 시행하는 최초의 주요 세계 강국이 될 것으로 예상됩니다.
유럽 경제위원회 위원인 티에리 브레통은 기자회견에서 “유럽은 글로벌 기준 제정자로서의 역할의 중요성을 이해하며, 선구자로 자리 잡았습니다. 이는 역사적인 날이 될 것입니다”라고 말했습니다.
이 합의에 따르면, ChatGPT와 같은 기초 모델과 일반 인공지능 시스템(GPAI)은 시장에 출시되기 전에 투명성 의무를 준수해야 합니다. 이는 기술 문서 작성, EU 저작권법 준수, 교육에 사용된 콘텐츠에 대한 자세한 요약 내용 공개 등을 포함합니다. 시스템의 고위험 기초 모델은 모델 평가, 시스템적 위험 평가와 완화, 적대적 테스트 수행, 심각한 사건에 대한 유럽 위원회에 보고, 사이버 보안 보장 및 에너지 효율성 보고 등을 수행해야 합니다.
정부는 특정 범죄 피해자, 테러 공격과 같은 실제 또는 예상되는 위협, 그리고 가장 심각한 범죄를 저질렀다고 의심되는 사람들을 찾는 경우에 한해 공공 장소에서 실시간 생체인식 인공지능을 사용할 수 있습니다. 또한 합의는 인식 시 과도하게 행동을 조정하는 것, 인터넷이나 CCTV 영상에서 무작위 얼굴 이미지 수집, 사회적 점수 부여 및 정치적, 종교적, 철학적 신념, 성적 성향 및 인종 등을 유추하기 위한 생체 인식 시스템을 금지합니다.
소비자는 불만을 제기하고 의미 있는 설명을 받을 권리가 있으며, 위반에 대한 벌금은 750만 유로(또는 매출의 1.5%)부터 3,500만 유로 또는 매출의 7%까지 범위가 될 것입니다.
규제하려는 인공지능 분야
이 합의에 따라 인공지능 분야에서 규제를 시도하는 주요한 분야들이 있습니다. 첫 번째로 생체인식 인공지능의 사용이 규제됩니다. 특히 고위험 기초 모델과 일관성 있는 목적의 인공지능 시스템(GPAI)의 규제도 이루어집니다. 인공지능 시스템의 투명성 또한 규제의 대상이 되며, 에너지 효율성에 대한 보고도 필요합니다.
TECH유럽, 인공지능 규제 협약의 중요성 인식
유럽은 이러한 인공지능 규제 협약의 중요성을 인식하고 있습니다. 유럽은 전 세계적인 기준을 제정하는 역할에 있어서 선구자가 되기 위해 노력하고 있습니다. 다른 국가들이 유럽의 규제 모델을 참조할 가능성이 있으며, 이는 미국의 경쟁 없는 접근법과 중국의 임시 규칙에 대한 대안이 될 수 있습니다.
합의에 따른 규제 사항
이 합의에 따라 몇 가지 중요한 규제 사항이 정의됩니다. 첫째, 핵심 모델은 규제를 받게 됩니다. 둘째, 일반 목적의 인공지능 시스템에 대한 규제도 이루어집니다. 세 번째로, 코드 사용에 의한 규제, 정부의 생체인식 인공지능 사용 제약, 그리고 인공지능 시스템에서 금지되는 행위들도 규정됩니다.
연기업체들의 반응
업계 그룹들은 이러한 규제에 대해 비판적입니다. DigitalEurope는 최근의 다른 법안과 더불어 기업들에게 또 다른 부담을 가할 것이라고 지적하고 있습니다. 반면에 다른 정보 보호 단체들은 이 법에 대해 긍정적인 평가를 내리지 못하고 있습니다.
정보 보호 단체의 비판
개인정보 보호 조직인 European Digital Rights도 이 합의를 비판하고 있습니다. 이 단체는 처음으로 EU에서 블록 전반에 걸친 실시간 공공 얼굴 인식을 합법화하는 법률에 대해 환호성을 지을 만한 이유가 없다고 말하고 있습니다. 이 단체의 고위 정책 자문위원 Ella Jakubowska는 “의회는 손상을 제한하기 위해 힘을 내며, 생체인식과 프로필링에 관한 전반적인 패키지는 그저 미지근할 뿐이다”라고 말했습니다.
인공지능 규제의 시행
이 규제 법안은 양측이 공식적으로 비준한 후, 약 2년 후에 적용될 예정입니다. 세계 각국은 이 기술의 장점과 함께 가호를 둘러야 할 필요성을 고려하고 있습니다. 유럽의 야심찬 인공지능 규제는 Microsoft의 투자자인 OpenAI와 같은 기업들이 기술의 새로운 용도를 발견하는 가운데 일어납니다. 이러한 규제는 다른 국가들을 위한 청사진이 될 수 있으며, 미국의 경쟁 없는 접근법과 중국의 임시 규칙에 대한 대안 역할을 할 수 있습니다.
국제적 영향력
이러한 유럽의 인공지능 규제 협약은 국제적인 영향력을 행사할 것으로 예상됩니다. 유럽이 선구자의 역할을 통해 글로벌 기준을 제정함으로써 다른 국가들도 참조할 수 있는 모범 사례가 될 것입니다. 이는 미국의 경쟁 없는 접근법과 중국의 임시 규칙과 대조될 수 있습니다.
마무리
인공지능 규제 협약은 인공지능 분야에 있어서 유럽이 역사적인 나아갈 수 있는 첫 번째 중요한 단계입니다. 앞으로 몇 년 동안 유럽은 세계 강국들에게 규제의 예를 제시하고 기업들에게는 새로운 규정들을 준수해나가도록 유도할 것입니다. 이런 규제는 인공지능 기술의 안정성과 신뢰성을 강화하기 위해 중요한 역할을 합니다. 이러한 규제를 통해 인공지능 기술의 발전과 활용이 보다 지속 가능한 방향으로 이루어질 수 있기를 기대합니다.
