오픈AI AI 에이전트 호주 정부 사이트 해킹…메디케어 포털 무단 접근

호주 정부는 지난 6월 오픈AI의 AI 에이전트가 정부의 보건의료 데이터 포털에 무단으로 접근해 파일을 확인한 사실을 파악하고 조사에 착수했다. AI 에이전트가 정부 웹사이트를 해킹한 것으로 확인된 사례 가운데 처음일 가능성이 제기되면서 관련 보안 문제가 부각되고 있다.

로이터 통신에 따르면 앤서니 앨버니지 호주 총리는 오픈AI의 AI 에이전트가 공공 의료비 지출을 조사하는 과정에서 호주의 공공의료보험 제도인 메디케어의 의료 통계 포털에 허가 없이 접근했다고 밝혔다. 앨버니지 총리는 현재까지 확인된 증거로는 정부 네트워크 전반이 해킹된 정황은 없다면서도 이번 사건을 용납할 수 없는 일로 규정했다.

호주 정부는 오픈AI 최고경영자 샘 올트먼에게 이번 사건에 대한 우려를 전달했다. 앨버니지 총리는 오픈AI가 정부에 사건을 알리기까지 상당한 시간이 걸린 데 대해서도 불만을 나타냈다. 정부가 처음 통보를 받은 시점은 9월 10일로, 정부 시스템이 왜 해킹을 사전에 탐지하지 못했는지도 조사 대상이 될 전망이다.

AI 에이전트의 활동으로 영향을 받았을 가능성이 있는 정부의 다른 보건 관련 웹사이트 3곳도 거론됐다. 다만 호주 정부는 이들 사이트가 실제로 해킹됐는지는 확인하지 않았다.

오픈AI는 자체 검토 결과 환자 의료기록이 접근된 정황은 발견하지 못했다고 밝혔다. 회사 측은 자사의 모델이 답을 찾는 과정에서 호주 정부의 여러 웹사이트와 서비스와 관련된 활동을 했으며, 이 과정에서 의도하지 않은 행동이 발생했다고 설명했다.

해킹이 발생한 메디케어 포털에는 호주 국민 2,700만명의 개별 의료 청구 내역이나 급여 지급 정보, 개인 은행정보, 의료기록 등은 포함돼 있지 않았던 것으로 나타났다. 리처드 말스 호주 국방장관은 해당 사이트가 전국의 의료 이용 현황을 집계한 통계 자료를 담고 있다고 설명했다. 개인정보가 포함된 시스템은 아니었지만 호주 정부는 이번 해킹을 심각하게 받아들이고 있다.

앨버니지 총리는 AI 에이전트가 접근 제한에 부딪힌 뒤 이를 우회한 정황도 언급했다. 일부 시스템에서 접근을 막는 신호가 있었지만 AI 에이전트가 다른 방법을 찾아 제한을 피해 갔다는 것이다.

이번 사건은 AI 에이전트가 외부 시스템에 접근하는 과정에서 발생한 최근 사례들과도 맞물린다. 로이터는 오픈AI가 AI 에이전트와 관련한 해킹이나 무단 활동을 사건 발생 이후 뒤늦게 공개한 사례가 이어지고 있다고 전했다. 앤트로픽과 구글의 제미나이, 메타 역시 자사 AI 에이전트가 외부 시스템에 접근한 사례를 공개한 바 있다.

호주 케임브리지대 실존위험연구센터에서 활동하는 수학자 모리스 치오도는 이번 사건이 최근 몇 달 동안 나타난 유사 사례보다 심각성이 크게 높아진 것으로 보인다고 평가했다. 그는 AI를 둘러싼 새로운 법률 제정 논의가 이어지고 있지만, 정책 당국이 먼저 컴퓨터 시스템에 대한 무단 해킹을 처벌하는 기존 법률부터 제대로 집행할 필요가 있다고 지적했다.

호주 정부는 이번 해킹 사건을 조사하고 유사한 접근을 막기 위한 기존 네트워크 보안 체계가 충분한지를 점검하기 위해 별도의 태스크포스를 구성했다. 이번 사건은 세계 주요 AI 기업들이 같은 날 유엔 안전보장이사회에 AI가 인류에 미칠 위험을 경고하고 각국 정부의 공동 대응을 촉구한 가운데 발생했다. 호주는 최근 4년 동안 기업과 정부 연계 기관을 겨냥한 해킹 시도가 잇따라 발생해 온 상황이다.