호주, AI 안전 전담 감독기관 추진…사고 보고·독립 평가 의무 예고

호주 정부가 첨단 인공지능(AI) 기업에 안전·보안 의무를 부과하고, 이를 감독할 별도 규제기관을 만드는 방안을 추진한다. AI 서비스의 활용이 늘어나는 가운데 기업이 위험을 어떻게 관리하고 사고를 알릴지 법으로 정하겠다는 취지다.

연방정부는 11월 10일 호주에서 사업하려는 첨단 AI 기업에 적용할 의무 기준을 발표했다. 이 기준을 호주 AI 표준 관련 법률에 담고, 새 AI 안전 감독기관이 집행하도록 하는 방안을 제시했다. 현재는 입법 추진 단계로, 발표된 의무가 모두 시행되거나 새 기관이 운영을 시작한 것은 아니다.

제시된 방향에는 AI 개발부터 실제 서비스 제공까지 보안을 유지하고, 모델에서 발생할 수 있는 중대한 위험을 찾아 관리하는 의무가 포함된다. 보안 사고를 정부에 신속히 알리고 외부의 독립적인 모델 평가를 허용하도록 하는 방안도 담겼다.

기업이 안전·보안 관리 체계를 마련해 공개하고, 기술과 기준이 바뀌면 그에 맞춰 대응하도록 하는 내용도 포함됐다. 정부는 새 감독기관이 호주 AI 안전연구소(Australian AI Safety Institute)의 기술 전문성을 활용해 감독하도록 제안했다. 연구소와 새 감독기관의 역할을 구분하면서 전문적인 평가와 규제 집행을 연결하려는 구상이다.

이번 발표는 AI가 일으킬 수 있는 사이버 사고에 대한 정부 대응을 강화하는 움직임과 함께 나왔다. 정부는 같은 날 관련 신속 검토의 권고사항도 공개했다. AI 서비스를 이용하는 개인과 사업자에게는 기업의 안전 관리와 사고 대응 책임을 더 분명히 하려는 정책 변화라는 의미가 있다.

구체적인 적용 범위와 집행 방식, 시행 시점은 후속 입법 과정에서 확인해야 한다. AI를 업무에 활용하는 사업자는 이번 발표만으로 새로운 의무가 이미 적용된다고 판단하기보다, 자신이 사용하는 서비스와 공급업체에 어떤 기준이 마련되는지 향후 법안과 공식 안내를 살펴볼 필요가 있다.