今週の注目カンパニー
AIのバイアスを回避するためのAIを開発しているParityというスタートアップについてご紹介いたします。
先月、Parityの最高責任者にLiz O’Sullivanさんという女性が就任したことがニュースになりました。このスタートアップは、10社以上のスタートアップ企業や技術系の大企業を含んだ組織の集合体で、AIシステムからバイアスを識別して取り除くことを目的としたツールやサービスを提供しています。
今年の4月、米連邦取引委員会が人種的に偏ったAIシステムの販売や、雇用、住宅、保険などの恩恵を受けられなくなる可能性のあるAIシステムの販売に対して警告を発したことで、AIの倫理観やバイアスをどう取り除くかにアメリカでは注目が集まっています。
バイアスについては、例えばAIによる顔認証技術は黒人よりも白人の方が3倍ほど見分けやすいという発表がメディアでも話題になりました。これはAIにデータを学習させている人間のバイアスによるものといわれています。
Parityの技術は、企業がサービスを構築するために使用しているデータ、技術、手法を分析し、リスクのある部分をピンポイントで指摘し、変更を提案することを目的としています。
活用するAI技術そのものが偏っている可能性もあるとの指摘もあるため、難しい挑戦になりますが、今後の動きに注目したいと思います。 |