OpenAI、AIの「壊滅的リスク」に対処するための新部門を設立

OpenAIは、AIが引き起こす可能性のある「壊滅的なリスク」に対処するための専門の新部門を社内に設置すると発表した。壊滅的なリスクには、核の脅威も含まれているという。 同社は「われわれは、現在最先端のモデルを超える “フロンティアAIモデル” が、全人類に利益をもたらす可能性を秘めていると信じている」としつつ「しかし、それらは今よりもさらに深刻なリスクももたらす可能性がある」と述べている。 そして、今回設置を発表したこの準備的なチームは、AIが何か重大な問題を引き起こすことを想定し、対処するために「track（追跡）、evaluate（評価）、forecast（予測）、protect（保護）