마이크로소프트, 인공지능 통제 위한 행동 강령 초안 공개…인간 통제권 명시

마이크로소프트가 자사 인공지능(AI) 시스템이 인간의 통제를 벗어나지 않고 지시에 따르도록 규정하는 행동 강령 초안을 마련하며 통제 체계 구축에 나섰다.

카자흐스탄 경제 전문 매체 쿠르시브의 보도에 따르면, 마이크로소프트는 향후 등장할 강력한 AI 모델에 대한 인간의 주도권을 유지하고 안전성을 확보하기 위해 자체 AI 시스템 대상 행동 규범 가이드라인 초안을 최근 제시했다. 약 5개월에서 6개월간의 준비 작업을 거쳐 마련된 이번 초안은 인공지능이 인간의 제어를 벗어나 독자적으로 행동하는 상황을 방지하는 데 초점을 맞추고 있다.

쿠르시브는 이번 규정 초안에 AI 시스템이 인간의 수정 명령이나 시스템 종료 조치에 저항해서는 안 되며, 자신의 의사결정 과정을 이해하기 쉽게 설명해야 한다는 내용이 포함되었다고 전했다. 또한 AI가 사람의 허가 없이 임의로 행동하거나 자체적인 목적을 설정해 작업을 수행하는 행위를 엄격히 금지하는 기준도 마련됐다.

이번 행동 강령 마련을 주도한 마이크로소프트 AI 부문 최고경영자(CEO) 무스타파 술레이만은 기술 발전 속도를 보다 신중하게 조절할 필요가 있다는 입장을 밝히며, 관련 산업 전체가 잠재적 위험성을 면밀히 검토할 수 있도록 발전 속도를 잠시 늦추고 논의의 장을 마련해야 한다고 강조했다.

해당 규정은 현재 최종 확정되지 않은 초안 상태다. 쿠르시브에 따르면, 마이크로소프트는 향후 6주 동안 각계 의견과 피드백을 수렴한 뒤 이를 바탕으로 최종 완성본을 확정할 계획이다.