Embargo |
|
|||||
배포일자 : 2025.12.17.(수) |
배포번호 : 2025-97호 |
|||||
문의 |
인공지능안전연구소 |
소장 |
김명주(031-739-7650) |
E-mail : mjkim63@etri.re.kr |
||
인공지능안전연구소 |
책임연구원 |
곽준호(010-9121-5406) |
E-mail : etri76526@etri.re.kr |
|||
대외협력본부 |
홍보실장 |
정길호(042-860-0670) |
E-mail : khchong@etri.re.kr |
|||
홍보실 |
선임행정원 |
김민규(042-860-0681) |
E-mail : kakapow@etri.re.kr |
|||
매수 : 보도자료 2매(참고자료 2매, 사진자료 6매, 행사사진 : 13시) |
배포처 : ETRI 홍보실 |
|||||
ETRI AISI, AI안전 성과 공유...생태계 확산 가속화
- 17일, AI안전컨소시엄 최종회의 개최, 한 해 동안 성과 공개
- 국내 AI 안전 논의 성과, 국민 체감 가능한 AI 기반 마련
한국전자통신연구원(ETRI) 인공지능안전연구소(이하 AISI)가 17일, 조선그라비티 서울 판교 호텔에서 국내 AI 안전 분야 전문가가 참여한 가운데 AI안전 컨소시엄 합동회의를 개최했다고 밝혔다.
이번 회의에서는 국제 AI 평가‧안전 네트워크의 주요 동향, AISI의 지난 1년간 활동 성과, 컨소시엄의 핵심 의제 추진 현황 등을 중심으로 심도 있는 논의가 진행됐다.
우리나라는 ‘AI기본사회’ 실현을 목표로 AI 혁신 생태계 조성, 전면적인 인공지능 전환(AX), 글로벌 거버넌스 선도 등을 추진하며 국가 AI 전략을 체계적으로 강화하고 있다. 이 과정에서 국민이 체감할 수 있는 AI 안전 확보는 필수 요소로 부각되고 있으며, 글로벌경쟁력의 핵심 기준으로 자리 잡고 있다.
AISI는 이러한 정책적 요구에 부응해 독자 AI 파운데이션 모델의 안전성·신뢰성 평가, 국제 AI 안전 네트워크 공동 평가 참여 등 국내외에서 AI 안전성 확보를 위한 노력을 지속해 왔다.
특히 AISI는 국내 AI 안전 연구의 구심점 역할을 해온 AI안전컨소시엄과 함께 연구성과 확산, 안전 평가 기술공유, 정책·제도 논의 등 다각적 협력 기반을 강화하고 있다.
이번 회의에서는 ▲국제 인공지능(AI) 안전연구소 네트워크의 활동 현황 ▲AISI의 1년간 연구성과 ▲AI안전 컨소시엄 분과별 추진 결과와 향후 계획 등이 논의되었다.
또한, 12월 첫째 주 미국 샌디에이고에서 열린 제2회 글로벌 AI안전 네트워크 회의의 주요 내용을 공유했다. 이번 국제회의에서는 연구소 명칭 변경, 의장국 재편(영국), 네트워크 운영체계 조정 등 국제 AI 안전 협력 환경이 새롭게 변화하고 있으며, AISI는 이에 대한 대응 방향과 국내 적용 방안을 제시했다.
AISI는 올해 구축한 데이터셋 및 안전성 평가 방안 초안을 이날 회의에서 처음 공개하고, 전문가 검토를 통해 활용성과 유효성을 높이기 위한 의견을 수렴했다. 앞으로도 기술적 검토와 공동연구를 지속해 국내 AI 안전 기술 체계를 고도화할 계획이다.
AI안전 컨소시엄은 향후 더 많은 기업·기관의 참여를 유도해 국내 AI 안전 생태계를 확장하고, AI 안전 정책·연구 아젠다를 적극 발굴할 예정이다. 이를 위해 이날 회의에서는 신규 참여 희망 기관의 가입 절차와 역할을 논의했다. 추가 가입 신청은 AISI 홈페이지에서 가능하며, 의사 표명 시 준회원으로 등록되고 이후 심의를 거쳐 정회원으로 활동할 수 있다.
김명주 ETRI 인공지능안전연구소장은 “내년은 국가 AI 정책과 글로벌 거버넌스가 크게 변동하며 국가 간 경쟁과 협력이 복잡하게 얽히는 전환점이 될 것”이라고 전망하며, “ETRI가 중심이 되어 굳건한 AI 안전 생태계를 구축하고, 국민 안전·안심과 글로벌 경쟁력을 동시에 확보할 수 있도록 AI안전컨소시엄의 활동을 적극 확대하겠다”고 밝혔다.
이번 성과는 과학기술정보통신부가 지원하는 ‘생성형 AI 안전성 평가 기반 마련’ 사업을 통해 추진됐다. <보도자료 본문 끝>
용어설명 |
1) 인공지능 전환(AX, AI Transformation) : 행정·산업 전반에서 인공지능을 활용해 공정·업무·서비스를 전면적으로 혁신, AI 기반 자동화·의사결정·서비스 고도화를 통해 조직·산업 구조를 근본적으로 전환하는 전략적 변화
2) 국제 인공지능(AI) 안전연구소 네트워크(The International Network of Advanced AI Measurement, Evaluation and Science, 舊 The International Network of AI Safety Institute) : 영국·미국 등 10개국 및 한국 등을 포함한 주요국 정부 및 공공 연구기관이 참여해 AI 안전성 평가와 공동 연구, 정책 협력을 추진하는 국제 협력 네트워크로, 글로벌 AI 안전 기준과 평가체계를 마련하기 위한 국가 간 협력 플랫폼으로 운영되고 있으며, 고위험 AI 기술 대응과 국제 규범 형성에서 핵심 역할을 수행하는 거버넌스 체계.
3) AISI 홈페이지 : https://www.aisi.re.kr/kor
참고1 |
AI안전 컨소시엄 합동회의 개최 계획 |
□ 개요
○ (목적) AI안전연구소 주요 추진 현황 및 성과의 공유와, AI안전컨소시엄의 운영체계의 확정 및 분과별 의제에 대한 심도 있는 논의
○ (일시) 12월 17일(수) 오전 10시 ~ 12시
○ (장소) 그래비티 조선 서울 판교 호텔(성남 판교)
○ (참석자) 과기정통부, AI안전연구소 김명주 소장, 최민석 실장, 남기혁 실장, 이성원 실장, TTA 곽준호 팀장, AI안전컨소시엄 가입 기업·기관 담당자 등 총 40 여명
* 기자단 공개는 “AI안전연구소 현황 및 성과 공유”(11:00)까지 진행
□ 세부 일정
시간 |
내용 |
논의 내용 |
비고 |
10:00 ~ 10:05 |
참석자 소개 |
- |
|
10:05 ~ 10:10 |
인사말 |
과기정통부 AI안전연구소(김명주 소장) |
- |
10:10 ~ 10:20 |
AI안전네트워크 동향 |
AI안전연구소(김명주 소장) |
- |
10:20 ~ 10:25 |
세션 A AI안전연구소 |
11/7 실행위원회 개최 결과 (곽준호 팀장) |
- |
10:25 ~ 10:40 |
분과별 안건 추진 현황 |
- |
|
10:40 ~ 11:00 |
AI안전연구소 연구 결과 소개 |
- |
|
11:00 ~ 11:10 |
커피 브레이크 |
- |
- |
11:10 ~ 11:30 |
세션 B 컨소시엄 파트너스 |
준회원 소개 및 패널토의 |
- |
11:30 ~ 11:40 |
파트너 발표(미정) |
- |
|
11:40 ~ 11:50 |
국제표준화 및 거버넌스 현황 |
- |
|
11:50 ~ 12:00 |
기념 촬영 |
- |
- |
12:00 ~ |
점심 식사 |
- |
- |
참고2 |
AI안전컨소시엄 개요 |
□ AI안전컨소시엄(AISC) 개요
○ (목적) 우리나라 AI안전 분야 산‧학‧연 역량을 결집하고, 체계적인 연구 협력을 통해 효율적인 국가 AI안전 체계 정립 및 글로벌 대응
○ (구성) AI안전연구소(AISI) 및 산‧학‧연 24개 전문 기업‧기관
<AI안전컨소시엄 구성원>
구분 |
구성원 |
산업계 (13) |
LG AI연구원, 카카오, 네이버, 삼성전자, 에스케이텔레콤, 케이티, 코난테크놀로지, 이스트소프트, 포티투마루, 뤼튼테크놀로지스, 트웰브랩스, 라이너, 크라우드웍스 |
학계 (6) |
고려대학교 정보보호대학원, 서울대학교, 성균관대학교 인공지능융합원, 숭실대학교, 연세대학교, 한국과학기술원 |
연구계 (5) |
소프트웨어정책연구소, 정보통신기획평가원, 정보통신정책연구원, 한국지능정보사회진흥원, 한국정보통신기술협회 |
※ 컨소시엄 멤버는 국내 기업‧기관 대상 연중 수시 접수 및 지속 규모 확장 추진
○ (운영 체계) AISI AI안전컨소시엄 사무국이 총괄 운영하며, 주제 및 의제별로 3개의 분과(평가‧정책‧연구)를 설치하고, 의제 설정
<AI안전컨소시엄 운영 체계>
AI안전연구소(AISI) 및 AI안전컨소시엄 |
|||||||||||||||||||||||||||||
(분과1) 평가 |
(분과2) 정책 |
(분과3) 연구 |
|||||||||||||||||||||||||||
|
|
|
|||||||||||||||||||||||||||
