EU 세계 첫 AI 규제법 승인

유럽연합(EU)이 세계 첫 AI 규제법을 최종 승인했습니다.

 

위반시 매출의 최대 7% 과징금이 부과됩니다.

EU 세계 첫 AI 규제법 승인

 

오늘은 유럽연합 세계 첫 AI 규제법 승인에 대해서 알아보겠습니다.

 

유럽연합의 빅테크 규제 - 세계 첫 AI 규제법

 

EU가 세계 최초로 마련한 AI 규제법이 최종 가결됐습니다.

 

유럽 의회는 현재 시각 13일 본회의에서 AI 규제법 최종안을 찬성 523 표로 가결했다고 밝혔습니다.

 

반대는 46 표 기권은 49 표였습니다.

 

이제 EU 27개국 장관들이 다음 달 최종 승인하면 발효될 예정이며 일부 금지 조항은 발효 뒤 6개월부터 적용되어서 단계적으로 도입될 예정입니다.

 

그리고 2026년 이후에는 전면적으로 시행될 예정입니다.

 

EU AI 규제법 4단계

 

구분	규제 조치
허용할 수 없는 위험(Unacceptable risk)	유럽연합 내 사용 금지 생체 정보 스크랩 금지 개인 사회 능력 평가 '소셜 스코어링' 금지 -> 범죄 용의자 수색 시 법원 허가 후 진행 가능
높은 위험(High-risk)	감독 및 보안에 대한 엄격한 규칙 준수 출시 전 적합성 평가 의무 데이터 공개 및 사전 시험 시행 준수 AI 시스템 이용 시 감독관 배치 (자율주행, 의료 기술, 선거, 법률, 공공 및 민간 서비스 관련 AI 등)
제한된 위험(Limited risk)	사용자에게 AI 에 대한 명확한 정보 제공 사용자가 사용을 거부할 수 있도록 조치(딥페이크 및 생성 AI 서비스 등)
최소 위험(Minimal risk)	자발적 행동 강령 수립 다양한 추천 시스템 및 '스팸 필터' 등은 규제 방침 없음.

 

AI 법은 AI 활용 분야를 총 4단계 위험 등급으로 나눠 차등 규제할 방침입니다.

 

허용할 수 없는 위험, 높은 위험, 제한된 위험, 최소 위험 등으로 분류했습니다.

 

먼저 인종 종교 성적 지향 등을 기준으로 사용자를 분류하는 생체 정보 스크랩이 금지됩니다.

 

다양한 데이터를 수집해 개인을 평가하는 소셜 스코어링도 일절 금지됐습니다.

 

하지만 강간, 테러 등 중대한 범죄 용의자를 수색할 때 등 예외적인 사항은 법원의 사전 허가를 받아 진행할 수 있습니다.

 

고위험 등급으로 여겨지는 AI 기술 즉, 자율 주행, 의료 장비, 선거 그리고 법률 등과 관련된 AI 기술을 출시하려는 기업은 반드시 데이터를 공개하고 사전 시험을 거쳐야 하는데 이 AI 시스템을 사용할 때 반드시 사람을 배치하는 것을 강조했습니다.

 

제한된 위험 단계에서는 딥페이크가 포함됐습니다. 영상이나 이미지에 AI가 만든 콘텐츠라는 점을 표기해야 하고 또 사용자가 AI 시스템과 상호작용하고 있음을 알리고 선택권을 부여해야 합니다.

 

반면에 우리가 흔히 사용하고 있는 다양한 추천 시스템이나 스팸 필터에 대한 AI 서비스는 최소 위험으로 규정되면서 따로 규제되는 방침은 없습니다.

 

여기서 주목할 점은 챗GPT 같은 생성형 AI 등장으로 추가된 사항이 있습니다.

 

번역, 인공지능 AGI와 관련된 내용입니다.

 

EU는 사람과 유사한 수준 혹은 이상의 지능을 갖춘 AGI를 개발하는 기업에게도 투명성 의무를 부과하기로 했습니다.

 

이 조항은 2021년 발의됐던 초안에는 없었지만 최근 챗GPT 등 생성형 AI 등장으로 AI 남용에 대한 우려가 확산되면서 입법 과정에서 추가됐습니다.

 

위반 시에는 규제 정도에 따라서 매출의 최대 7%까지 과징금이 부과될 수 있습니다.

 

외신들은 EU의 AI 규제법이 국제적 AI 규제의 주요 이정표가 될 거라고 평가했습니다.

 

국가별 AI 기조

미국	바이든 대통령, 'AI 규제안' 행정명령 서명 -> AI 개발사, 자발적으로 개발 및 훈련 데이터 보고 준수 -> 검증 전문가로 구성된 '레드팀' 신설 미국무부, AI 민간업체에 보고서 의뢰 -> AGI 개발에 따른 군비 경쟁 및 대량 살상 무기 개발 우려
프랑스	'미스트랄AI' 등 국내 AI 기업 위해 AI법  반대 입장 표명 향후 5년간 생성 AI 기술 분야에 매년 50억 유료 (7조원) 투자 방침
이탈리아	멜로니 총리 'AI 프로젝트' 활성화 위해 30억 유로 귱소 민관투자펀드 조성

 

(1) 미국

2023년 10월 조바이든 대통령이 AI 산업 발전 정책과 규제 방안을 동시에 담은 행정명령에 서명했습니다.

 

AI 시스템이 국가안보 경제 보건 분야 관련될 경우 AI 개발사가 정부의 개발과 훈련 단계를 포함해 안전 테스트 결과를 보고해야 하는데 정부에서 이를 검증할 전문가 팀인 레드팀을 신설하기로 했습니다.

 

미국 국무부가 AI 업체 의뢰한 보고서에서는 최악의 경우 AI 발전은 인류 멸종 수준의 위협이 될 수 있으며 미국 정부가 시급히 개입해야 한다는 내용이 담겼습니다.

 

AGI 개발을 지적하며 결국 AI에서 비롯한 군비 경쟁과 대량 살상무기가 성행할 것이라 내다보고 있습니다.

 

(2) 프랑스

오픈 AI의 경쟁사로 떠오르고 있는 미스트랄 AI 보유국 프랑스는 AI 법에 반대했습니다.

 

프랑스 AI 위원회는 AI법의 생성 AI 기술 발달은 연간 경제 성장률을 두 배로 올릴 수 있다며 앞으로 5년간 매년 50억 유로를 투자할 것을 정부에 권고했습니다.

 

(3) 이탈리아

멜로니 총리가 AI 프로젝트를 촉진하기 위해 30억 유로 규모의 민관 투자펀드를 조성한다고 밝혔습니다.

 

각 기업의 AI 우려 대응 사례

구글(GOOGL)	가짜뉴스 확산 방지 위해 '제미니아' 선거 관련 답변 제한
메타(META)	오는 6월 유럽의회 선거 위해 AI 허위정보 대응 침 구축
LG	딥페이크 확산 방지 위해 'AI 선거 협정' 참여(구글, 이마존, 어도비, 오픈AI 등 참여)
엔비디아(NVDA)	신약 개발 위한 생성형 AI 플랫폼 '바이오넹소' 설립

 

빅테크 기업들도 각국 정부의 AI에 관한 우려를 의식하고 있습니다.

 

올해 전 세계 주요 40여 국에서 선거가 치러지는 만큼 AI의 가장 큰 악용 사례를 할 수 있는 가짜 뉴스를 잡기 위한 정책을 마련하고 있습니다.

 

(1) 구글

구글은 재미나이의 선거와 관련된 답변을 제안해 가짜 뉴스의 확산을 막겠다고 밝혔습니다.

 

(2) 메타

메타에서도 6월 유럽 의회 선거를 앞두고 AI 허위 정보 대응팀을 꾸리겠다고 발표했습니다. 

 

(3) LG

LG는 AI 로 만든 딥페이크 확산 방지를 위해 글로벌 기업들이 구축한 AI 선거 협정에 참여하기로 했습니다.

 

이 협정에는 구글 아마존 어도비 오픈 AI 등에 참여할 예정입니다.

 

(4) 엔비디아

엔비디아는 AI를 활용한 바이오 투자에 몰두하고 있습니다. 신약 개발을 위한 생성형 AI 플랫폼 '바이오네모'를 통해 신약 개발 시간을 줄이고 경우에 따라 실험까지 대체할 수 있습니다.

 

---

지금까지 유럽연합 세계 첫 AI 규제법 승인에 대해서 알아보았습니다.

 

함께 읽으면 좋은 글

2024년 투자 키워드 AI, 메모리 반등 사이클

CES 2024 핵심키워드 인공지능, 모빌리티, 푸드ㆍ에그테크, 헬스ㆍ웰니스테크, 지속 가능성ㆍ 인간