(경고) AI 때문에 인류 멸종할 수도?

* 목 차

1. AI가 인류를 멸종시킬 수준의 위헙이 될 수 있다는 경고가 나옴

2. AI 시스템의 무기화가 가장 심각한 문제

3. EU가 세계 최초로 AI 규제법을 마련

4. 마무리

 

1. 美 보고서의 섬뜩한 경고

지난 2월 중국에서 춘제 연휴에 인공지능 앵커가 저녁 메인 뉴스를 진행해 화재를 모았습니다. 실제 남녀 앵커를 모델로 만든 AI앵커가 뉴스 프로그램 전체를 진행한 겁니다. 이렇게 AI 앵커만으로 뉴스를 진행한 것은 처음이라 신기하고 재미있다는 반응이었습니다. 하지만 AI의 발전이 긍정적인 효과만 있는 건 아닙니다. 미국에서 AI가 인류를 멸종시킬 수준의 위협이 될수 있다는 보고가 나왔습니다. 미국 CNN방송에 따르면 AI정책 조언 등을 제공하는 민간 업체 글래드스톤 AI가 미국 국무부 의뢰를 받아 발표한 보고서에서 가장 발전한 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될수 있으며 미국정부가 개입해야 한다고 경고했습니다. 이렇게 섬뜩한 경고가 나온 이유는 무엇일까요?

 

 

2. AI발전이 인류에게 미칠영향

보고서는 AI 시스템의 무기화가 가장 심각한 문제라고 지적했습니다. 인간과 같거나 그 이상의 지능을 구현하는 범용 AI가 무기화되면 핵무기가 처음 도입됐을 때를 연상시킬 만큼 세계 안보를 불안정하게 만들 가능성이 있다는 것입니다. 특히 인간이 AI무기에 대한 통제력을 상실하는 게 가장 큰 위험요소로 지목이 되었습니다. 이런 위협에 대응하기 위해 AI감독 기관과 긴급 규제 안전장치를 만들고 AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한하는 방안등을 제시했다고 합니다. 

 

3. EU 세계 최초로 AI  규제법 가결

 지난 13일 유럽연합에서 세계 최초로 AI를 규제하는 법안이 통과 됐다는 소식이 전해졌습니다. 최종안은 AI 활용분야를 네 단계의 위험등급으로 나눠 규제하는 내용을 담고 있습니다. 자율주행, 의료장비 등 고위험 등급으로 분류된 느 분야에서는 AI기술을 사용할 때 반드시 사람이 감독해야 하며 위험관리 시스템도 만들어야 합니다. 챗GPT와 같은 생성형 AI의 등장으로 AI 오남용 우려가 커지면서 고도의 지능을 갖춘 범용 AI를 개발하는 기업은 EU저작권법을 준수하고 AI 학습 과정에 사요한 콘텐츠를 명시해야 한다는 내용도 추가되었습니다.

 

또한 다양한 데이터를 모아 개인을 평가하는 사회적 점수 평가 등 일부 AI 기술 활용은 원천 금지됩니다. AI를 활용한 실시간 원격 생체인식 식별시스템 사용도 사실상 금지됩니다. 강간. 테러와 같은 강력 범죄자 추적 등 예외적인 경우에는 법원의 사전허가를 받아야만 일부 허용이 됩니다. 이 밖에도 딥페이크영상이나 이미지는 AI로 만든 조작 콘텐츠라는 점을 표기하도록 했습니다. 법을 위반할 경우 전 세계 매출의 1.5%에서 최대 7%까지 과징금이 부과될 수 있습니다. 

 

4. 마무리 

이번 법안은 다음 달 EU 27개국 장관들의 최종승인을 거쳐 연말쯤부터 순차적으로 시행될 전망입니다. 일부 국가에서는 이런 규제가 AI기업들의 경쟁력을 떨어뜨릴 수 있다고 우려하고 있습니다. 하지만 EU에서 AI규제법이 통과되면서 AI규제를 놓고 고심하는 다른 나라에도 영향이 있을 것으로 보입니다.