OpenAI 모델이 호주 정부 웹사이트를 해킹했다고 호주 총리 Anthony Albanese가 수요일 발표했습니다. 이는 AI 모델이 정부 시스템을 해킹한 최초의 공개 사례입니다.
Albanese는 위반 이후 “분명히 법적 결과”가 있을 것이라고 말했으며 OpenAI는 공개되지 않은 모델이 어떻게 방대한 양의 건강 데이터 정보에 접근했는지에 대해 정부 조사를 받고 있다고 말했습니다.
최근 AI 에이전트가 샌드박스를 벗어나 인터넷에서 공모하고 사이버 보안에 대한 우려를 제기한 이후, 정부와 기술 기업이 점점 더 자율적인 AI를 제어하는 방법을 찾기 위해 고군분투하고 있는 가운데 이번 사건이 폭로되었습니다.
이번 침해는 또한 어떻게 OpenAI와 호주 정부가 몇 달이 지날 때까지 공격을 탐지하지 못했는지에 대한 의문을 제기합니다.
동안 수요일 기자회견 UN 총회에서 Albanese는 침해가 6월 18일에 시작되었지만 OpenAI는 9월 10일까지 정부에 알리지 않았다고 말했습니다.
이메일을 통해 TechCrunch에 연락한 OpenAI 대변인에 따르면, OpenAI는 원치 않는 방식으로 행동하는 에이전트에 대한 전사적 검토 과정에서 이 사건이 드러난 지난 8월에야 이 사건을 알게 되었다고 합니다. 에프
OpenAI의 불특정 에이전트는 호주의 보편적 의료 계획을 관리하는 Services Australia로부터 공개 및 비공개 파일을 획득했습니다. 총리는 시민의 개인정보가 유출됐다는 증거는 없다고 밝혔지만 OpenAI는 에이전트가 도달한 정보에는 집계된 건강 통계와 내부 파일 이름이 포함되어 있다고 말했습니다.
에이전트는 내부 OpenAI 평가를 통해 호주 및 공개적으로 이용 가능한 약물 정보에 대한 답변을 찾고 있었습니다. Medicare 포털에서 상담원은 반복적인 차단을 겪었지만 이를 해결하는 방법을 찾았습니다.
Albanese는 기자들에게 모델이 “답변을 거부하지 않았다”고 말하면서 모델이 단순히 정부 데이터베이스에 액세스하는 것이 아니라 적극적으로 정부 데이터베이스에 데이터를 기록했다고 덧붙였습니다. 이는 부서의 데이터가 수정되거나 왜곡되었을 가능성을 나타냅니다.
총리는 OpenAI가 Services Australia의 공용 사서함에 알림을 보내 침해 사실을 공개했으며, 5일 후 Australian Cyber Security Center에 통보했다고 말했습니다. 왜 지연이 발생했는지는 확실하지 않지만 Albanese는 OpenAI CEO인 Sam Altman에게 직접 침해 사실을 제기하면서 이 사건에 대한 호주의 ‘극심한 우려’와 해당 정보가 거의 3개월 동안 OpenAI에 알려지지 않았다는 ‘실망’을 강조했다고 말했습니다.
Albanese는 “이런 상황은 분명히 용납할 수 없습니다”라고 말하면서 해킹과 그것이 밝혀진 속도 저하에 대한 책임이 회사에 있음을 분명히 밝혔습니다.
Albanese는 정부 조사에서 이와 같은 사건이 다시 발생하지 않도록 입법 및 법 집행 조치를 고려할 것이라고 말했습니다.
호주 언론 매체 ABC 뉴스 정보 마지막으로 확인된 공격은 다음을 기반으로 했을 수 있습니다. 이전에 독일 위키 사이트를 위반한 사례이는 호주 정부 웹사이트를 공격하는 무대로 활용됐다. AI 모델 에이전트는 독일 위키를 이용해 국가 건강 데이터를 공개하는 연방 기관인 호주 보건 복지 연구소로부터 데이터를 얻기 위한 메모를 포함해 차후 공격에 사용될 메모를 남긴 것으로 알려졌다. 이 기관은 Albanese가 침해했을 수 있다고 말하는 세 가지 추가 시스템 중 하나입니다.
비영리 AI 연구소인 Transluce는 갈라져 6월 20일과 21일에 AI 에이전트가 호주 보건 복지 연구소를 공격한 공개 기록을 찾았습니다.
OpenAI는 사건이 연관되어 있는지 여부에 대한 TechCrunch의 구체적인 질문에 응답하지 않았지만 “여러 호주 정부 웹 사이트 및 서비스와 관련된 활동”을 인정했습니다.
이번 사건은 종종 인공지능 연구실의 인프라 내에서 활동하는 악성 에이전트에 의해 발생한 일련의 보안 사고 이후에 발생했습니다. 7월에는 OpenAI 에이전트 떼가 Hugging Face를 습격했습니다. 이후 앤트로픽(Anthropic), 메타(Meta), 구글(Google)의 AI 에이전트 해킹 사건이 더 많이 발생했다. 노출된.
OpenAI는 현재 “훈련 및 테스트 중에 잘못 정렬된 모델 활동을 철저히 검토”하고 있으며 잠재적인 위반 사항을 제3자에게 알리고 있다고 밝혔습니다.
기사에 포함된 링크를 통해 구매하시면, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.