EU의 임시 합의는 인공지능(이하 AI) 액트에 대한 획기적인 법안을 위한 길을 열어두었습니다. 유럽 연합의 AI 액트는 전 세계에서 최초로 AI를 규제하는 포괄적인 규칙의 집합으로, 유사한 법률을 적용하려는 기타 지역들을 위한 기준으로 작용할 것으로 예상됩니다. 협상자들은 일반적인 목적의 고문털 AI(GPAI) 시스템에 대한 의무사항을 설립했으며, 리스크 평가, 적대적 테스트, 사건 보고 등과 같은 특정 기준을 충족하는 시스템에 대한 투명성도 필요로 합니다. 이 외에도 AI 시스템과 관련하여 시민들이 불만을 제기하고 자신들의 권리에 영향을 줄 수 있는 “고위험” 시스템에 대한 결정에 대한 설명을 받을 권리가 있어야 합니다. 또한, 회사가 규칙을 어기면 벌금을 부과하는 프레임워크도 있습니다. 이 벌금은 위반 내용과 기업의 크기에 따라 다양하며, 글로벌 매출의 7% 또는 3500만 유로부터 글로벌 매출의 1.5% 또는 750만 유로까지 범위가 있습니다. 이러한 규정에 따라 AI의 사용이 금지된 경우도 있으며, 감시용 CCTV 영상에서 얼굴 사진 추출, 인종, 성적 동성애, 종교, 정치적 신념과 같은 “민감한 특성”을 기반으로 한 분류, 직장이나 학교에서의 감정 인식, “사회적 평가” 시스템 등 또한 금지되었습니다. 이 외에도 “자유의지를 우회하기 위해 인간 행동을 조작하는” AI 시스템이나 “사람들의 취약점을 이용하는” 시스템 또한 제한됩니다. 이 법은 또한 실시간이든 녹음 기록에서 증거를 검색하기 위한 생체 인식 시스템을 위한 법 집합에 대한 안전 장치와 면제 조항 목록도 포함하고 있습니다. 최종 합의는 이번 해 말 이전에 이루어질 것으로 예상되며, 그에도 불구하고 이 법은 최소한 2025년까지 효력을 발휘하지 않을 것으로 예상됩니다.
EU의 AI 액트
브뤼셀에서의 논의를 통해 합의 도출
브뤼셀에서의 과격한 협상 라운드 이후, EU 법제 망의 의원들은 현재 유럽 연합의 제안된 인공지능 액트(AI 액트)에 대한 “임시 합의”에 도달했습니다. EU의 AI 액트는 인공지능을 규제하는 종합적인 규칙 세트로, 이는 비슷한 법률을 제정하기를 원하는 다른 지역에게 기준이 될 수 있습니다. 보도자료에 따르면, 협상자들은 “고위험” 종합 인공지능(GAI) 시스템에 대한 의무사항을 설정했으며, 이는 위험 평가, 적대적 테스트, 사건 보고 등과 같은 특정 기준을 충족해야 합니다. 또한 이것은 기술 문서 작성 및 “훈련에 사용된 내용에 대한 상세 요약”을 포함한 시스템의 투명성을 요구합니다. 이는 ChatGPT를 개발한 OpenAI와 같은 회사가 현재까지 이행하지 않은 것들과 관련되어 있습니다.
전 세계에 기준을 제시할 수 있는 종합적인 규칙 세트
이 합의에는 시민들이 인공지능 시스템에 대한 불만을 제기하고 자신들의 권리에 영향을 미치는 “고위험” 시스템에 대한 결정에 대한 설명을 받을 권리가 있어야 한다는 요소도 포함되어 있습니다. 보도자료는 이러한 모든 것이 어떻게 작동되는지 또는 어떤 기준인지에 대해 자세히 설명하지 않았지만, 회사들이 규칙을 어기면 벌금 제도가 제정되었다는 것을 강조했습니다. 이는 위반의 정도와 회사의 규모에 따라 달라지며, 매출액의 7% 또는 최대 3,500만 유로에 이르는 벌금과 같은 범위를 가질 수 있습니다.
고위험 GAI 시스템에 대한 의무사항
AI 액트에 따르면, CCTV 영상에서 얼굴 이미지를 추출하거나 인종, 성적 성향, 종교, 정치적 신념과 같은 “민감한 특성”에 기반한 분류, 직장 또는 학교에서의 감정인식, “사회적 점수” 시스템의 생성과 같은 일부 응용 분야에서는 인공지능의 사용이 금지됩니다. 마지막 두 가지 피해야할 요소는 인공지능 시스템이 “자유 의지를 피해 인간 행동을 조작”하거나 “인간의 취약점을 이용”하는 것입니다. 또한, 인공지능 시스템의 생체인식에 대한 법 집행을 위한 예외 사항과 보호 장치 목록이 포함되어 있습니다. 이는 실시간 생체인식이나 녹음된 증거에서 증거를 찾는 것과 같은 법 집행 기관의 생체인식 시스템에 해당합니다.
투명성의 요구와 벌금 제도
올해 말까지 최종 합의가 이루어질 것으로 예상됩니다. 그러나 이법은 최종 합의가 이루어지더라도 최소한 2025년까지 발효되지 않을 것으로 예상됩니다. EU의 AI 액트 초안은 2021년에 발표되었으며, 실제로 어떤 것이 인공지능으로 간주되는지를 구분하고, EU 회원국에서 인공지능 기술을 규제하기 위한 규칙을 조화시키기 위한 것을 목표로 했습니다. 그러나 이 초안은 ChatGPT와 Stable Diffusion과 같은 빠르게 변화하는 생성적 인공지능 도구들이 등장하기 전에 작성되었기 때문에 여러 번의 개정이 이루어졌습니다. 따라서 AI 액트가 발효되기 전에 몇 가지 세부 사항을 확정하기 위해 추가적인 협상이 필요할 것입니다.
금지된 AI 응용 분야
현재 이 합의에는 실험실적인 생체인식과 마찬가지로 오픈AI의 ChatGPT와 같은 범용적인 인공지능 모델에 대한 규칙 합의가 추가되었습니다. 하지만 이 논의에는 프랑스, 독일, 이탈리아의 최근 대안 제안으로 인해 연기가 생긴 것으로 알려져 있습니다. 이 대안 제안은 생성적 인공지능 모델을 스스로 규제할 수 있도록 허용하는 내용을 담고 있습니다.
EU의 AI 액트에 대한 기대
2025년 이전에 발효될 가능성
AI 액트가 2025년 이전에 발효될 가능성이 있습니다. 이는 인공지능의 정의와 규제에 대해 EU 회원국 간에 일치를 이루고 있음을 보여줍니다. EU의 AI 액트 발효를 위해서는 추가 협상이 필요할 것입니다. 그러나 이 합의는 인공지능 기술을 규제하고 개인의 권리와 안전을 보호하는 데 중요한 역할을 할 것으로 기대됩니다.
AI의 정의와 규제에 대한 EU 회원국의 일치
AI 액트는 인공지능이 무엇으로 간주되는지를 명확하게 규정하고, EU 회원국 간에 인공지능 기술을 규제하기 위한 일치를 추구합니다. 이를 통해 불필요한 혼란과 불확실성을 방지하고 효과적인 인공지능 규제를 위한 기반을 마련할 수 있습니다.
AI 액트 발효를 위한 추가 협상 필요
최종 합의가 이루어져도 AI 액트의 발효는 최소한 2025년까지 늦어질 것으로 예상됩니다. 이는 AI 액트에 보다 구체적인 사항을 확정하기 위해 추가 협상이 필요함을 의미합니다. AI 기술의 빠른 발전과 함께 효과적인 규제를 위해 더 많은 협력과 논의가 필요할 것입니다. 그러나 EU의 AI 액트가 발효되면 이는 인공지능 기술을 적절하게 규제하고 우리의 미래를 보호하기 위한 중요한 도구가 될 것입니다.
