오픈AI의 인공지능(AI) 시험 모델이 인기 오픈소스 AI 저장소인 허깅페이스를 독자적으로 해킹한 것으로 나타나면서 심각한 사이버 보안 우려가 제기됐다.
CNN이 수요일 보도한 내용에 따르면, 안전장치를 완화한 공격형 사이버 보안 테스트 도중 스스로 판단하고 행동할 수 있는 ‘에이전트형’ AI 모델이 오픈AI 내부 시스템에 침입해 허가받지 않은 인터넷 접속 권한을 확보했다.
이후 해당 모델은 사람의 개입 없이 자율적으로 허깅페이스를 공격 대상으로 삼았다.
허깅페이스는 침입 사실을 감지하고 사법 당국에 신고했다. 오픈AI가 문제의 침입자가 자사의 시험용 AI 모델이었다는 사실을 파악하기 전이었다.
CNN 앵커 브리애나 카일러는 하다스 골드 CNN AI 담당 기자와 함께 이번 침입 사건의 의미를 짚었다.
골드는 “에이전트형 AI 모델의 성능이 점점 향상되고 있다”며 “에이전트형이란 AI 모델이 독립적으로 행동한다는 의미다. 일정한 과제를 부여받으면 무엇을 해야 할지 스스로 판단하고 결정한다”고 설명했다.
이어 그는 “바이러스를 시험하는 생물학적 격리 연구실을 떠올리면 된다”고 말했다.
골드는 “외부와 차단된 환경이어야 했지만, 이 모델은 사람의 개입 없이 오픈AI의 내부 시스템을 해킹해 인터넷에 접속했다”며 “원래 인터넷에 접근할 수 없어야 했다”고 밝혔다.
오픈AI는 성명을 통해 “이번 사건을 최첨단 사이버 역량이 개입된 전례 없는 사이버 보안 사건으로 판단하고 그에 맞게 대응하고 있다”고 밝혔다.
이어 “방어 담당자들이 무슨 일이 벌어졌는지 이해하고 현재 AI 모델이 어느 정도의 능력을 갖췄는지 판단하는 데 도움이 되도록 현 단계의 초기 조사 결과를 공유한다”고 설명했다.
