Citadel AIがNEDOのAIセーフティ強化研究開発に採択、産総研やコーピーと連携し基準策定へ

PR TIMES より

記事の要約

• Citadel AIがNEDOの「AIセーフティ強化に関する研究開発」に採択
• 産総研、コーピーと共同でAIセーフティ基準策定と評価技術開発を推進
• AI品質マネジメントイニシアチブ（AIQMI）等と連携し、日本ブランドの価値向上を目指す

NEDO「AIセーフティ強化に関する研究開発」にCitadel AIが採択

株式会社Citadel AIは、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の事業「AIセーフティ強化に関する研究開発」に、国立研究開発法人産業技術総合研究所（産総研）および株式会社コーピーと共同で提案を行い、採択されたことを2025年4月30日に発表した。本事業を通じて、生成AIの適切な管理・利用に必要なAIセーフティ基準の策定・普及と、AIセーフティ評価・管理技術の開発を一体的に推進する。

近年、生成AI技術は急速に進展し利便性が向上している一方で、安全性や信頼性を評価し技術検証するための具体的な基準や手段が確立されていない現状がある。この状況が、企業がAIを本格導入する上での大きな障害となり始めているため、今回の採択は重要な意味を持つ。

AIが単体のソフトウェアの域を超え、様々なビジネスアプリケーションや自動車、ロボット、医療機器、コンシューマープロダクトに組み込まれる中、AIの開発・導入で立ち遅れることは、日本の将来を脅かす可能性がある。そのため、本事業は日本の国際競争力強化に貢献することが期待される。

AIセーフティ強化に関する研究開発の概要

AIセーフティについて

AIセーフティとは、人工知能（AI）技術が社会に浸透する上で、その安全性と信頼性を確保するための取り組み全般を指す。AIセーフティの主な要素は以下の通りだ。

• AIの安全性評価基準の策定
• AIのリスク管理手法の開発
• AIの倫理的な利用に関するガイドラインの整備

AIセーフティは、AI技術の進展に伴い、その重要性がますます高まっている。AIが社会に与える影響が大きくなるにつれて、安全性と信頼性を確保するための取り組みが不可欠となるだろう。

NEDO「AIセーフティ強化に関する研究開発」に関する考察

NEDOが「AIセーフティ強化に関する研究開発」を採択したことは、日本におけるAI技術の健全な発展を促進する上で非常に重要な一歩だ。特に、生成AIの安全性と信頼性を確保するための基準策定と評価技術の開発は、企業が安心してAIを導入・活用するための基盤となるだろう。

今後の課題としては、国際標準との整合性を図りながら、日本独自のAIセーフティ基準を確立する必要がある。また、AI技術の進展は非常に速いため、基準や評価手法も継続的に見直し、最新の技術動向に対応していく必要があるだろう。

さらに、AIセーフティの重要性を広く社会に啓発し、AI開発者や利用者の意識を高めることも重要だ。産総研やAIQMIといった関連機関との連携を強化し、AIセーフティに関する知見や技術を共有することで、より安全で信頼できるAI社会の実現に貢献することが期待される。

参考サイト/関連サイト