「人間中心の AI 社会原則」は、平成31年/2019年3月に内閣府の「統合イノベーション戦略推進会議」において、決定・公開された文書で、AI 技術の開発と利用において、人間の尊厳、自由、権利、安全、福祉、幸福を保護することを目指す原則が示されています。

元文書：人間中心のAI 社会原則

元文書の解説スライド：「人間中心のＡＩ社会原則」及び「ＡＩ戦略2019(有識者提案)」について

人間中心の原則

AI の利用は、憲法及び国際的な規範の保障する基本的人権を侵すものであってはならない。

AI は、人々の能力を拡張し、多様な人々の多様な幸せの追求を可能とするために開発され、社会に展開され、活用されるべきである。AI が活用される社会において、人々がAIに過度に依存したり、AIを悪用して人の意思決定を操作したりすることのないよう、リテラシー教育や適正な利用の促進などのための適切な仕組みを導入することが望ましい。

教育・リテラシーの原則

AI を前提とした社会において、人々の間に格差や分断が生じたり、弱者が生まれたりすることは望まない。したがって、AIに関わる政策決定者や経営者は、ＡIの複雑性や、意図的な悪用もありえることを勘案して、AIの正確な理解と、社会的に正しい利用ができる知識と倫理を持っていなければならない。

AIの利用者側は、AIが従来のツールよりはるかに複雑な動きをするため、その概要を理解し、正しく利用できる素養を身につけていることが望まれる。

一方、AIの開発者側は、AI技術の基礎を習得していることが当然必要であるが、それに加えて、社会で役立つAI の開発の観点から、AIが社会においてどのように使われるかに関するビジネスモデル及び規範意識を含む社会科学や倫理等、人文科学に関する素養を習得していることが重要になる。

プライバシー確保の原則

全てのＡＩが、パーソナルデータ利用に関するリスクを高めるわけではないが、AIを前提とした社会においては、個人の行動などに関するデータから、政治的立場、経済状況、趣味・嗜好等が高精度で推定できることがある。これは、重要性・要配慮性に応じて、単なる個人情報を扱う以上の慎重さが求められる場合があることを意味する。パーソナルデータが本人の望まない形で流通したり、利用されたりすることによって、個人が不利益を受けることのないよう、各ステークホルダーは、パーソナルデータを扱わなければならない。

セキュリティ確保の原則

AI を積極的に利用することで多くの社会システムが自動化され、安全性が向上する。一方、少なくとも現在想定できる技術の範囲では、希少事象や意図的な攻撃に対してAIが常に適切に対応することは不可能であり、セキュリティに対する新たなリスクも生じる。社会は、常にベネフィットとリスクのバランスに留意し、全体として社会の安全性及び持続可能性が向上するように務めなければならない。

公正競争確保の原則

新たなビジネス、サービスを創出し、持続的な経済成長の維持と社会課題の解決策が提示されるよう、公正な競争環境が維持されなければならない。

公平性、説明責任及び透明性の原則

「AI-Ready な社会」においては、AI の利用によって、人々が、その人の持つ背景によって不当な差別を受けたり、人間の尊厳に照らして不当な扱いを受けたりすることがないように、公平性及び透明性のある意思決定とその結果に対する説明責任（アカウンタビリティ）が適切に確保されると共に、技術に対する信頼性（Trust）が担保される必要がある。

イノベーションの原則

Society 5.0 を実現し、AI の発展によって、人も併せて進化していくような継続的なイノベーションを目指すため、国境や産学官民、人種、性別、国籍、年齢、政治的信念、宗教等の垣根を越えて、幅広い知識、視点、発想等に基づき、人材・研究の両面から、徹底的な国際化・多様化と産学官民連携を推進するべきである。