[경제 신문 스크랩] 尹 "AI 안전연구소 설립 동참" AI 정상회의 '서울 선언' 채택

작 성 일 자	2024년 5월 22일 매일경제 A5면
헤 드 라 인	尹 "AI 안전연구소 설립 동참" AI 정상회의 '서울 선언' 채택 尹대통령·수낵 英총리 주재 AI 혁신·포용 거버넌스 협력 구글 등 16社 "안전개발" 약속 정부, 서울선언 발판 삼아 AI 기본법 등 새 질서 확립
기 사 링 크	https://n.news.naver.com/article/newspaper/009/0005306806?date=20240522
본          문	한국, 미국, 영국 등 10개국과 유럽연합(EU)은 21일 화상으로 열린 '인공지능(AI) 서울 정상회의'에서 안전하고 혁신적이며 포용적인 AI를 위해 협력한다는 '서울 선언'을 채택했다. AI 위험성에 따른 안전성뿐만 아니라 혁신과 포용성으로까지 국제 협력 공감대를 끌어낸 것이 가장 큰 성과다. 앞서 지난해 11월 영국 블레츨리 파크에서 열린 'AI 안전성 정상회의'에서는 AI 위험성에 따른 안전성에 초점이 맞춰졌다. 또 정상회의 참여국은 AI 위험에 대응하기 위한 안전연구소 필요성에 공감대를 확인하며 서울 선언 부속서로 'AI 안전 과학 국제협력을 위한 서울 의향서'를 채택했다. 영국은 AI 안전연구소 해외 사무소를 미국 샌프란시스코에 설립하기로 했고, 한국은 AI 안전연구소 네트워크에 동참하겠다는 뜻을 밝혔다. AI 안전연구소 설립에 공감대가 형성되면서 앞으로 대규모 허위 정보를 유포하거나 사기에 악용될 AI에 대한 서비스 배포가 전면 중단된다. 인종, 성별, 문화, 나이, 장애 등을 활용해 편향된 결정을 내리는 AI 서비스 역시 중지될 것으로 전망된다. 이번 회의는 영국 AI 정상회의 후속으로 윤석열 대통령과 리시 수낵 영국 총리가 공동 주재했다. G7(미국·영국·프랑스·일본·독일·이탈리아·캐나다), 호주, 싱가포르와 EU가 참여했다. 또 에릭 슈밋 전 구글 최고경영자(CEO), 일론 머스크 테슬라 CEO, 이재용 삼성전자 회장, 이해진 네이버 창업자 등 국내외 유명 AI 기업 총수들도 참여했다. 윤 대통령은 이날 개회사에서 "AI 서울 정상회의는 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것"이라며 "AI 안전성을 확보해야 하는데 이러한 점에서 영국, 미국을 비롯한 주요국들의 AI 안전연구소 설립 노력을 환영한다"고 말했다. 윤 대통령은 또 "대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것"이라고 밝혔다. 아울러 AI 혁신, 거주 지역과 소득 수준에 관계없이 누구나 AI 혜택을 누릴 수 있도록 AI 포용성을 확보하는 것이 중요하다고 윤 대통령은 강조했다. 구글, 아마존, 마이크로소프트(MS), 삼성전자 등 세계 각국의 16개 주요 기술 기업이 안전한 AI 개발을 약속했다. 영국 과학혁신기술부는 이날 성명을 내고 "영국과 한국이 블레츨리 선언을 기반으로 16개 글로벌 AI 기술 기업의 안전성 결과에 대한 약속을 확보했다"며 "기업들은 위험이 충분히 완화될 수 없다면 AI 모델을 개발하거나 사용하지 않기로 약속했다"고 밝혔다. 이날 'AI 안전 약속'에 이름을 올린 기업은 아마존과 앤트로픽, 코히어, 구글·딥마인드, G42, IBM, 인플렉션AI, 메타, MS, 미스트랄AI, 네이버, 오픈AI, 삼성전자, 테크놀로지 이노베이션 인스티튜트(TII), xAI, 지푸AI다. 이 가운데 TII는 아랍에미리트(UAE)의 기술 연구기관이고 지푸AI는 중국 알리바바, 텐센트, 샤오미 등의 지원을 받는 중국 기업이다. 한국은 이번 정상회의 개최로 AI 주요 3개국(G3)으로 도약하는 발판을 마련했다고 평가하며 AI 대중화 시대를 위한 질서 마련에 박차를 가한다는 계획이다. 생성형 AI 저작물 워터마크 표시가 의무화되고, 의료법을 개정해 비대면 진료가 본격 도입된다. AI 개발·활용 관련 저작권 제도도 정비돼 AI 학습에 필요한 언론사 뉴스 등에 대한 적정한 대가를 지급하는 방안이 마련될 것으로 보인다. 과학기술정보통신부는 이날 국무회의에서 이 같은 내용을 담은 '새로운 디지털 질서 정립 추진계획'을 보고했다. 자유·공정·안전·혁신·연대 5대 원칙에 따라 지정된 20대 과제 중 8대 핵심과제를 선정해 관리한다는 방침이다. 정부는 먼저 AI 혁신과 안전·신뢰 등 균형을 위한 법 제정을 연내에 마무리한다는 방침이다.
용 어 정 리	① 인공지능 서울 정상회의: 작년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의의 바통을 이어받아 AI 안전성을 강화하면서도 혁신을 촉진하고 포용과 상생을 도모하는 AI 발전방안을 포괄적으로 논의하는 영국과 공동으로 개최하는 회의 ② 서울선언 : 서울선언의 핵심은 국제 AI 논의에서 안전, 혁신, 포용성 등을 우선순위로 두기로 했다는 점이다. AI의 설계, 개발, 배치, 사용 분야에서 안전성, 보안성, 신뢰성 등을 전제하기로 했다. AI 관련 거버넌스를 각국이 서로 협의해 구축하기로 한 것도 의미가 크다. ③ G7: '주요 7개국(미국·영국·프랑스·독일·이탈리아·캐나다·일본)모임' , 1973년 1차 오일쇼크에 대한 대책 마련을 위해 미국·영국·프랑스·서독·일본 5개국 재무장관이 모인 것에서 시작됐다. ④ AI 주요 3개국(G3) : G3는 일반적으로 미국, 중국, 그리고 유럽 연합을 가리킵니다. 이 국가들은 세계 경제에서 주요한 역할을 하며, 국제 정치 및 경제에 큰 영향력을 행사합니다.(chatGPT검색결과)
본문의근거 (객관적수치)	① 한국, 미국, 영국 등 10개국과 유럽연합(EU)은 21일 화상으로 열린 '인공지능(AI) 서울 정상회의'에서 안전하고 혁신적이며 포용적인 AI를 위해 협력한다는 '서울 선언'을 채택했다. ② 구글, 아마존, 마이크로소프트(MS), 삼성전자 등 세계 각국의 16개 주요 기술 기업이 안전한 AI 개발을 약속했다. ③ 한국은 이번 정상회의 개최로 AI 주요 3개국(G3)으로 도약하는 발판을 마련했다고 평가 ④ 자유·공정·안전·혁신·연대 5대 원칙에 따라 지정된 20대 과제 중 8대 핵심과제를 선정해 관리한다는 방침
추가조사	1. 인공지능 서울 정상회의에서 '서울 선언' 채택   a. 서울선언의 핵심은 국제 AI 논의에서 안전, 혁신, 포용성 등을 우선순위로 두기로 했다는 점이다. AI의 설계, 개발, 배치, 사용 분야에서 안전성, 보안성, 신뢰성 등을 전제하기로 했다. AI 관련 거버넌스를 각국이 서로 협의해 구축하기로 한 것도 의미가 크다.   b. 참석국가 : 10개국 및 유럽연합       한국, G7(미국, 영국, 프랑스, 일본, 독일, 이탈리아, 캐나다), 호주, 싱가포르, 유럽연합(EU)   c. G7은 매년 재무장관회의와 정상회담을 개최하고 있는데, 재무장관회의는 각 국가의 재무장관과 중앙은행 총재가 1년에 2~3번씩 연석으로 회동하여 세계 경제가 나아갈 방향과 각 국가 사이의 경제정책 협조 문제를 논의하며, 정상회담은 1년에 한 번 각 국가의 대통령과 총리가 참여해 세계의 주요 의제 등에 대해 논의한다.   d. 참여기업 : 16개 주요 기술 기업 아마존, 앤트로픽, 코히어, 구글·딥마인드, G42, IBM, 인플렉션AI, 메타, MS, 미스트랄AI, 네이버, 오픈AI, 삼성전자, 테크놀로지 이노베이션 인스티튜트(TII), xAI, 지푸AI다. *TII: 아랍에미리트(UAE)의 기술 연구기관/지푸AI: 중국 알리바바, 텐센트, 샤오미 등의 지원을 받는 중국 기업  e. 서울의향서 :민주주의, 법치주의, 인권·기본적 자유, 프라이버시 등의 보호, AI·디지털 격차 해소 등에 AI를 활용하겠다는 내용  f. 영국 과학혁신기술: “기업들은 위험을 충분히 완화할 수 없다면 AI 모델을 개발하거나 사용하지 않기로 했다"  g. AI 안전연구소   앞으로 대규모 허위 정보를 유포하거나 사기에 악용될 AI에 대한 서비스 배포가 전면 중단된다. 인종, 성별, 문화, 나이, 장애 등을 활용해 편향된 결정을 내리는 AI 서비스 역시 중지될 것으로 전망된다.   2. 8대 핵심과제    a. AI기술의 안전성, 신뢰, 윤리 확보, 딥페이크를 활용한 가짜뉴스 대응(생성형 AI 저작물 워터마크 표시가 의무화 등), AI 개발,활용 관련 저작권 제도 정비, 디지털 재난 및 사이버 위협,범죄 대응, 디지털 접근성 제고,대체 수단 확보, 비대면 진료의 안정적 시행, 연결되지 않을 권리 보호, 잊힐 권리 보장.   b. 8대 과제 중 AI 개발·활용을 둘러싼 저작권 제도 개선   : 생성형 AI가 데이터를 학습하는 과정에서 창작자 권리가 위협받기 때문     (예) AI의 뉴스 저작권: 미국에서는 뉴욕타임스가 작년 12월 오픈AI와 마이크로소프트를 대상으로 저작권법 위반 소송을 제기했다.   c. AI업계는 규제에 반대. 정보 분석 등을 이유로 AI가 데이터를 이용할 경우 디지털데이터수집(TDM) 면책 규정이 필요하다는 주장.   d. 정부는 양측의 주장을 고려해 연말까지 AI가 학습하는 저작물의 이용 대가 마련을 위한 연구를 하기로 했다. AI 콘텐츠를 게시할 때 AI 생성물임을 드러내는 워터마크를 의무적으로 도입하고, 딥페이크 가짜뉴스를 찾아내는 기술을 고도화할 예정이다 3. 전력 공급, 전력망 확충   a. 국회입법조사처 ‘AI 혁명에 부응한 선제적 전력 공급·전력망 확충 긴요’ 보고서 발표   b. 향후 5년간 데이터센터에 필요한 전력을 충당하려면 원자력발전소 53기를 추가 건설해야 할 정도의 전력 필요   c. AI용 데이터센터는 전력 소비량이 일반 데이터센터보다 훨씬 많다. 지난해 12월 기준 국내에 있는 데이터센터는 150개로 용량은 1986㎿ 수준   d. 산업통상자원부에 따르면 2029년까지 신규 데이터센터 수요는 732개로 소요되는 전력 용량은 4만9397㎿에 달한다. 송전 등에 발생하는 전력 손실분(7%)을 가정하면 1000㎿급 원전 53기에 이르는 추가 전력 생산이 필요
연 관 기 사	AI 안전연구소 설립 뜻 모은 정상들…"지구적 난제 함께 해결" https://www.hankyung.com/article/2024052140301 "AI 학습용 뉴스에 사용료 지급해야" https://www.hankyung.com/article/2024052140271 G7 [네이버 시사상식 사전] https://terms.naver.com/entry.naver?docId=930090&cid=43667&categoryId=43667 [유미's 픽] "빛 좋은 개살구?"…'AI 기본법' 없는 韓, 'AI 서울 서밋'서 주도권 잡을까 https://zdnet.co.kr/view/?no=20240520233630 “새 디지털 질서 정립”…정부, 8대 핵심과제 지정 https://www.ebn.co.kr/news/view/1623508/?sc=Naver