生成AIを活用したプロダクト企画で意識する観点

生成AIを活用したプロダクト企画をする際の気にしなければいけない観点をまとめる。

参照

AIは手段

AIは手段であり、目的を達成するために存在する。AIが解決する課題を意識して手段が先行しないように意識する。

また、知覚できないレベルで人間の意思決定や感情にAIが介入することを避ける。

サービス提供者が利用者の価値観、および意思決定の操作をしない。

回答の精度

間違った場合の対策やユーザーへの周知を体験として留意する。

AIが回答する情報が間違っているのにも関わらず、正解のように提示されユーザーを惑わさないように注意する。

100％の精度を求めるのではなく、ある程度を目指して適切に人間が介入する設計にすること。

ログ設計

プロンプトとその回答、そしてその回答根拠をログとして保存するようにする。

検証可能性を確保する。

セキュリティ対策

AI システム・サービスの利用データの機密性・完全性・可用性を維持する。

AIに対する脆弱性攻撃は年々多様化しているので、セキュリティ対策を講じる

トレーサビリティと透明性確保

システムのアーキテクチャ、処理のプロセスを文書化しておく。

採用技術の公開

採用LLMを公開する

ステークホルダーに適切に公開する

より多くの人がAIの利益を享受できる体験設計にする。

限定的なデザインではなく、ユニバーサルデザインなどを考慮する

利用者への啓蒙・情報提供

使う上での基本的な情報をユーザーが認知できるようにする。

プライバシー

学習に使っているか否か、製品内データをどのくらいAIに読み込ませているのか、をユーザーに周知する

その上で、適切な規約を作成すること。