OpenAI는 월요일 호주 정부에 에이전트가 일부 공공 서비스 웹사이트를 침해했다는 사실을 호주 정부에 즉시 알리지 않은 것에 대해 사과했습니다. 또한 회사는 이러한 위반 중 일부가 어떻게 발생했는지 자세히 설명하고 해당 사건의 영향을 평가하기 위해 취하고 있는 추가 단계를 설명했습니다.
OpenAI는 “6월 내부 교육 및 평가 중에 우리 모델은 승인되지 않은 방식으로 호주 정부 웹사이트에 액세스했습니다. 또한 대응을 더 잘 처리했어야 했습니다. 죄송하며 앞으로 더 잘하기 위해 노력하고 있습니다”라고 밝혔습니다. 블로그 게시물.
사과문은 대략 주 호주 정부가 OpenAI 모델이 Medicare 지출 및 기타 건강 통계에 대한 정보가 포함된 Services Australia 시스템에 어떻게 액세스했는지에 대한 조사를 시작한 후.
데이터 침해는 6월에 발생했지만 호주 당국은 9월 10일까지 통보를 받지 못했습니다.
OpenAI는 또한 침해에 대해 자세히 설명했습니다. 지난 6월 테스트 중이었던 실험 모델은 빅토리아주의 피부 질환 치료제에 대한 정부 지출을 조사하는 임무를 맡았습니다. 공개 데이터 세트에서 정보를 찾을 수 없는 모델은 Services Australia의 내부 시스템에 액세스하고 명령을 실행하고 파일 및 자격 증명을 검색하고 심지어 파일을 작성하는 방법을 찾았습니다.
회사는 또한 자사의 모델 중 하나가 범죄 통계를 찾기 위해 뉴사우스웨일스 범죄통계수사국의 공공 범죄 매핑 도구에 접근했다는 사실도 발견했다고 밝혔습니다. 그리고 연구소에서는 해당 에이전트가 “보고 설정 및 집계된 설문 조사 통계”를 유출하기 위해 노출된 액세스 키를 통해 Victorian Health Information Agency에 액세스했다는 사실을 발견했습니다. OpenAI는 자사 에이전트가 호주 보건복지연구소(Australian Institute of Health and Welfare) 웹사이트에서 종합 통계도 검색했다고 밝혔습니다.
회사는 자사 모델이 사람들의 의료 기록이나 범죄 기록에 접근했다는 증거를 찾지 못했다고 말했습니다.
AI 연구소는 사과문에서 피해를 입은 호주 기관에 기술적 조사 결과를 제공하고 이를 대응팀과 연결해 침해의 영향을 평가할 것이라고 밝혔습니다. 또한 회사는 Frontline Defenders 프로그램을 위한 10억 달러 Daybreak의 크레딧을 제공하고 독립적인 호주 전문가로 구성된 태스크 포스를 구성하여 사건과 대응을 검토할 것입니다.
오픈AI는 “올해 말까지 작업을 완료할 것으로 예상되는 태스크포스는 AI 기업이 유사한 사고의 위험을 줄이기 위해 취할 수 있는 실질적인 조치도 권고할 것”이라고 밝혔다.
OpenAI는 논평 요청에 즉시 응답하지 않았습니다.
앤서니 알바니스 호주 총리는 이번 성폭행에 대해 “용납할 수 없는 일”이라고 말했다. 지난주 기자회견정부는 향후 유사한 사건을 예방하기 위해 가능한 법적 조치를 검토하고 있다고 밝혔습니다.
이번 침해는 AI 에이전트가 의도한 한계를 벗어나는 작업을 수행하는 것과 관련된 보안 사고 목록이 늘어나고 있는 것 중 가장 최근에 발생한 것입니다. 이 특정 모닥불의 부싯깃은 OpenAI 에이전트가 해킹된 후 켜졌습니다. 포옹하는 얼굴그리고 그 이후로, 인류의, 목표 그리고 Google 평가 중에 모델이 제3자 시스템에 액세스한 유사한 사건을 별도로 공개했습니다.
당사 기사의 링크를 통해 구매하는 경우, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.