“AI 안전한 사용 위해”… 美, 어벤저스 팀 결성

AI 안전보안이사회 내달 첫 회의
샘 올트먼-사티아 나델라-젠슨 황 등
빅테크 CEO들 이사진에 대거 참여
기술발전 지원 동시에 책임부여 의도

미국 정부가 인공지능(AI) 기술 확산에 따른 규제 공백을 메우고 안전한 AI 사용 방안을 마련하기 위해 빅테크 최고경영자(CEO)들을 모아 ‘AI 안전보안이사회(AI Safety and Security Board)’를 만들기로 했다. 샘 올트먼 오픈AI 최고경영자(CEO), 사티아 나델라 마이크로소프트(MS) CEO, 젠슨 황 엔비디아 CEO, 순다르 피차이 구글 CEO, 리사 수 AMD CEO 등이 참여하는 일종의 ‘AI 어벤저스’를 꾸린 것이다. 빅테크 주도의 AI 기술 발전을 지원하면서도 AI의 위험성에 따른 책임도 함께 지라는 뜻을 강조한 것으로 풀이된다.

미 국토안보부는 26일(현지 시간) “중요 인프라에 대해 안전한 AI 기술을 개발하고 적용하는 데 조언할 AI 안전보안이사회를 설립한다”고 밝혔다. 이번 이사회 설립은 지난해 10월 조 바이든 대통령이 서명한 AI 행정명령에 따른 것이다. 당시 바이든 대통령은 행정명령을 통해 국가안보나 경제안보, 공중보건 등에 심각한 위협을 초래할 수 있는 AI 시스템을 개발하는 기업은 정부에 해당 사실을 알리도록 했다. 이어 이번에 빅테크 수장들을 ‘AI 안전 자문역’으로 참가시킨 것이다.

연방 자문기구인 AI 안전보안이사회는 통신망, 전력망, 수도 시설, 교통체계 등 미 인프라 시설에 도입되는 AI 기술이 안전하게 사용될 수 있도록 자문하는 것이 목적이다. 다음 달 첫 회의를 시작으로 분기별로 소집된다. 22명으로 이뤄진 이사회에는 빅테크 경영진 외에도 에드 배스천 델타항공 CEO, 미 스탠퍼드대 AI 연구소장, 웨스 무어 메릴랜드 주지사 등 인프라 업체, 대학 관계자도 이사진으로 포함됐다.

알레한드로 마요르카스 미 국토안보부 장관은 “AI 기술은 미국인의 일상생활에 도움이 되는 서비스를 개선하기 위한 엄청난 기회를 제공했지만 상당한 위험 또한 수반하고 있다”며 “중요 인프라와 관련해 AI를 안전하고 책임감 있는 방식으로 배치하지 못하면 치명적일 수 있다”고 위원회의 설립 배경을 설명했다.

일각에서 AI 안전을 다루는 이사진에 AI 기업 임원들이 포함된 것에 대한 비판이 나오자 마요르카스 장관은 “이것은 비즈니스 개발에 관한 임무가 아니다”라며 선을 그었다. 이어 “이론에 초점을 맞춘 이사회가 아니라 일상생활에 AI를 구현하기 위한 실용적인 솔루션을 마련하는 이사회”라며 “이 특별하고 강력한 도구의 핵심 개발자를 이사회에 데려오는 것은 매우 중요하다”고 설명했다.

김명주 서울여대 정보보호학과 교수는 “미국에서는 이미 인프라에 AI 도입을 실험하고 있거나 시험 운영을 하는 경우가 많다”면서 “앞으로 AI 도입이 확산될 경우 부작용이 발생하면 지금보다 여파가 더 클 수 있다 보니 AI 안전보안이사회와 같은 협의체를 만든 것”이라고 설명했다.

이번 이사진에는 AI 산업에 관심이 많은 일론 머스크 테슬라 CEO 겸 소셜미디어 X(옛 트위터) 소유주, 마크 저커버그 메타 CEO 등은 포함되지 않았다. 미 인터넷 매체 액시오스는 “마요르카스 장관은 메타와 X를 포함한 소셜미디어 회사를 의도적으로 포함시키지 않았다”며 “이사진 명단은 지난해 5월 백악관에 초대된 AI 기업 CEO 명단과 광범위하게 겹친다”고 밝혔다.

이기욱 기자 71wook@donga.com
김하경 기자 whatsup@donga.com