OECDのAI原則
from 2019/05
OECDのAI原則
MIT Tech Review: OECDが「AI原則」を勧告、人権尊重し活用を
民主主義と経済発展を推進する国際機関「経済協力開発機構(OECD)」は、5月22日にパリで開催されたOECDフォーラムにおいて、AIに関する一連の原則を発表した。
OECDのAI原則は次の通りだ。
AIは、包括的な成長、持続可能な開発、幸福を推進することで、地球上の人々と地球に利益をもたらすべきである。
AIシステムは、法の支配、人権、民主主義的価値観、多様性を尊重するように設計されるべきである。また、公明正大な社会を確実にするためにも、たとえば、必要に応じて人間が介入できるというような、適切な安全防護措置も含まれるべきである。
人々がAIに基づいて出された結果を理解し、異議申し立てができるように、透明性と責任ある情報開示がAIシステムと、とりまく環境に必要である。
AIシステムは、そのライフサイクルを通じて堅牢でゆるぎなく、かつ安全な方法で機能する必要があり、潜在的なリスクは、継続的に評価および管理されるべきである。
AIシステムを開発、導入、あるいは、運用している組織および個人は、上記の原則に沿って、AIシステムが適切に機能していることを示す説明責任を持つべきである。
The OECD AI Principles
OECD Principles on Artificial Intelligence - Organisation for Economic Co-operation and Development
The Recommendation identifies five complementary values-based principles for the responsible stewardship of trustworthy AI:
AI should benefit people and the planet by driving inclusive growth, sustainable development and well-being.
AI systems should be designed in a way that respects the rule of law, human rights, democratic values and diversity, and they should include appropriate safeguards – for example, enabling human intervention where necessary – to ensure a fair and just society.
There should be transparency and responsible disclosure around AI systems to ensure that people understand AI-based outcomes and can challenge them.
AI systems must function in a robust, secure and safe way throughout their life cycles and potential risks should be continually assessed and managed.
Organisations and individuals developing, deploying or operating AI systems should be held accountable for their proper functioning in line with the above principles.
立案に参加した日本主導のAIの研究開発原則がG7、更にサミット、OECDの議題となるようです。国際的な議論がスタートです。 https://twitter.com/ktakahashi74/status/724068886404943873
2016年4月24日
ちなみに私が関与した部分の一つはAIの技術開発原則で、透明性や検証可能性、オープン性などを強調しました。この開発原則に関しては先日のG7情報通信担当大臣会合を経てサミットにも上がり、今後OECDに場を移して日本発の国際的議論を進めていく流れです https://twitter.com/ktakahashi74/status/745468420515258368
2016年4月24日
例えば、イーロン・マスクやスカイプ創業者のヤン・タリン、日本からは松尾さんなどが参加したアシロマ原則:http://www.gizmodo.jp/2017/02/23-asilomar-ai-principles.html … や、IEEEでも「倫理的AI設計」標準化の取り組み http://standards.ieee.org/develop/indconn/ec/ead_v1.pdf … https://twitter.com/ktakahashi74/status/851369800861229057
2017年4月10日
なぜ企業も政府も非営利組織もがんばるかというと、もちろん世界平和もあるが、主導権=自社、自国のAI製品に有利になるから。日本政府は世界的にも比較的早くこの方面で動きがあったし、この主導権争いに参戦しないと日本製AIを海外に輸出する際に不利にはなっても得にはならない。 https://twitter.com/ktakahashi74/status/851371089770840064
2017年4月10日