세계 최초로 채택된 유럽연합 ‘AI법’에서 주목할 법안 주요 5가지

지난 14일, 세계 최초의 AI 규제 법안인 ‘유럽연합 AI법’이 유럽의회에서 압도적인 찬성표를 받으며 통과되었다. 그러나 최종 버전은 조금 달라질 가능성이 있다.

 

지난주는 유럽의 기술 정책에 있어 중요한 한 주였다. 지난 6월 14일, 유럽의회가 AI법(AI Act) 초안을 승인하는 표결을 했고, 같은 날 유럽의회 의원들이 구글에 새로운 반독점 소송을 제기하기도 했다.

 

AI법안은 의회에서 압도적인 찬성표를 받으며 통과되었고, 이는 AI 규제에 있어 세계에서 가장 중요한 진전으로 평가받고 있다. 유럽의회 의장인 로베르타 메촐라(Roberta Metsola)는 이 법안이 “향후 수년간 글로벌 표준이 될 법안”이라고 설명했다.

 

하지만 당장 이 법안이 명확하게 적용될 것이라 기대하지는 않는다. 유럽의 입법 시스템은 다소 복잡하기 때문이다. 이제 유럽의회는 이 AI 규제안을 법제화하기 전에 유럽연합 의사회 및 유럽연합 집행위원회와 세부 사항을 논의해야 한다. 최종 법안은 세 기관의 서로 다른 세 가지 초안을 종합적으로 절충해 결정될 것이다. 이 법안이 실제 시행되기까지는 약 2년이 소요될 것으로 예상된다.

 

6월 14일에 있었던 표결은 다가오는 최종 협상에서 유럽의회의 입장을 최종 승인하는 것이었다. 온라인 플랫폼에 대한 법적 프레임워크인 유럽연합(EU) 디지털서비스법(Digital Services Act)과 유사하게 제정된 AI법은 의원들이 AI 애플리케이션의 위험성을 어떻게 예측하는지에 따라 규제를 도입하는 ‘위험 기반 접근법(risk-based approach)’을 따른다. 이에 따라 기업은 AI 사용에 대한 자체 위험 평가서를 제출해야 한다.

 

국회의원이 판단하기에 위험성이 ‘용인할 수 없는’ 수준인 일부 AI 앱은 전면 금지되며, ‘고위험’으로 간주하는 기술은 사용에 있어 새로운 규제 및 투명성과 관련된 요구사항이 적용될 것이다.

 

법안의 주요 사항 5가지를 정리했다.

1. 감정 인식(emotion-recognition) AI 금지

유럽의회의 AI법 초안은 경찰, 학교, 직장에서 사람의 감정을 인식하려는 AI의 사용을 금지하고 있다. 감정인식 소프트웨어 제조사들은 AI가 학생이 특정 내용을 이해하지 못하고 있거나, 자동차 운전자가 졸고 있는 때를 감지할 수 있다고 주장한다. 안면 인식 및 분석에 AI를 활용하는 것은 부정확성과 편견으로 인해 비판받아 왔지만, 다른 두 기관(유럽연합 이사회와 집행위원회)의 초안에서는 금지되지 않았기 때문에 향후 정치적 논쟁이 있을 것으로 예상된다.

2. 공공장소에서의 실시간 생체 인식과 예측 치안(predictive policing) 금지

이 부분이 입법 전쟁에서 중요한 부분을 차지할 것이다. 여러 EU 기관이 이 금지조항을 법제화할지 여부와 그 방법을 정해야 하기 때문이다. 경찰 집단에서는 ‘현대 치안유지에 필요하다’라고 말하는 실시간 생체인식 기술을 금지하는 것에 동의하지 않는다. 프랑스와 같은 일부 국가에서는 실제로 안면 인식 기술 사용을 늘리려고 하고 있다.

3. 소셜 스코어링(social scoring) 금지

사회적 행동에 대한 데이터를 사용해 사람들을 일반화 및 프로파일링하는 공공기관의 소셜 스코어링 관행이 금지될 것이다. 그러나 일반적으로 중국 및 다른 권위주의 정부와 연관된 소셜 스코어링에 대한 전망은 그리 간단하지만은 않다. 사회적 행동 데이터를 사용해 사람을 평가하는 이러한 관행은 현재 주택담보대출, 보험료 책정뿐만 아니라 채용 및 광고에서도 널리 사용되고 있다.

4. 생성형 AI에 대한 신규 규제  

유럽연합의 AI법안은 생성형 AI 규제법을 제안하는 최초의 법안으로, 오픈AI의 GPT-4와 같은 대형 언어모델의 학습 세트에서 저작권이 있는 자료의 사용을 금지한다.

 

오픈AI는 이미 개인정보 보호 및 저작권에 대한 우려로 유럽 의원들의 정밀 검토를 받아 왔다. 이 초안은 또한 AI가 생성한 콘텐츠에 라벨을 부착하도록 요구한다. 앞으로 유럽의회는 기술업계로부터의 로비 압력에 직면할 가능성이 높은 유럽위원회와 개별 국가에 이러한 정책의 필요성을 설득해야 한다. 

5. 소셜미디어의 추천 알고리즘에 대한 신규 규제  

새로운 초안은 소셜 미디어의 추천 시스템을 ‘고위험’ 범주로 보고 있는데, 이는 다른 법안보다 강화된 것이다. 즉, 이 법안이 통과되면 소셜미디어 플랫폼은 추천 시스템의 작동 방식에 대해 훨씬 면밀한 조사를 받게 되며, 기술 기업은 사용자 생성 콘텐츠(user-generated content)가 미치는 영향에 대해 더 많은 책임을 져야 할 수 있다.

 

EU 집행위원회 부위원장인 마르그레테 베스타게르(Margrethe Vestager)가 설명한 AI의 위험은 이미 널리 퍼져있다. 그녀는 정보 신뢰의 미래, 악의적 행위자가 할 사회적 조작의 취약성, 대규모 감시에 대한 우려를 강조했다.

 

베스타게르 부위원장은 기자들에게 “우리가 아무것도 믿지 못하는 상황에 부딪히게 된다면, 이는 우리 사회가 완전히 무너졌다는 것을 의미한다”고 말했다.