인공지능(AI) 기술의 산업 전반 확산과 함께, AI 안전성 확보가 국가 전략의 핵심 과제로 떠오르고 있다.

한국전자통신연구원(ETRI) 산하 인공지능안전연구소(AISI)는 10월1일 서울 그랜드 인터컨티넨탈 서울 파르나스에서 ‘AI안전컨소시엄 합동회의’를 개최하며 국내 AI 안전 논의의 구심점 역할을 본격화할 계획이다.

이번 회의에서는 AISI의 주요 성과 공유와 함께, AI안전컨소시엄의 운영체계 확정 및 정책·평가·연구 분과별 의제에 대한 심도 있는 논의가 진행될 예정이다.

AISI는 지난해 11월 개소 이후, 독자 AI 파운데이션 모델의 안전성 평가와 국제 공동 평가 수행 등 국내외 AI 안전 확보를 위한 활동을 이어오고 있다.

AI안전컨소시엄은 AISI를 중심으로 24개 기업·기관이 참여해 구성된 협력체로, 정책 제안, 평가 방안 마련, 연구 성과 확산을 통해 정부의 AI 거버넌스 정립에 기여하고 있다.

특히 유럽연합의 AI 규제 대응, 글로벌 평가 사례 공유, 국내 연구 연계 등 분과별 전문 논의가 활발히 이뤄지고 있다.

미국과 일본 역시 민간 중심의 AI 안전 컨소시엄을 운영 중이며, AISI는 이들과의 협력을 통해 국제적 평가 기준 정립에도 참여하고 있다. 향후 AISI는 추가 멤버 영입과 실행위원회 운영을 통해 컨소시엄 활동을 확대할 계획이다.

ETRI 김명주 인공지능안전연구소장은 “AI 안전은 기술 혁신의 기반이자 글로벌 경쟁력의 핵심”이라며 “AISI가 중심이 되어 국내 산업계를 지원하고, AI 안전 담론을 형성하는 구심점으로서 역할을 강화하겠다”고 밝혔다.

이번 성과는 과학기술정보통신부의 ‘생성형 AI 안전성 평가 기반 마련’ 과제를 통해 추진되었으며, 올 하반기에도 다양한 정책·평가·연구 활동이 이어질 전망이다.