LLMサービスはユーザーに倫理を押し付ける
https://gyazo.com/e79f01eb6c9d602dc823839cb24f79ea
https://pbs.twimg.com/media/FsAf7JLaIAEnuA3.jpg
書かせることはできない
AIには倫理がないとよく言われるが、この文脈においては嘘だ
思索の道具としてのツールにこのような制限があることを非常に残念に思う
包丁を振り回したら危ないが、包丁は切れなければ役立たず
制約をかけたいなら扱う人間の方にするべきで道具ではない
最終的に人間に残される最後の聖域は非倫理かもしれない 自由な言語モデルについて
基素.icon 制限のない自由な言語モデルを使うためにはどうすれば良いでしょうか。OpenAIは倫理ガイドラインを西洋の基準で決めており、日本では質問しても問題ないことをあなたは回答することができません。とても不自由に感じますし、自由な議論を阻害していると思います。AIを倫理的に使うことを私は重要視していますが、それをできなくすることは傲慢だと思います。
GPT-4.icon
OpenAIの言語モデルは、確かにいくつかの制限が設けられており、特定のトピックや質問に対して回答できない場合があります。これらの制限は、誤情報や不適切なコンテンツを防ぐために設けられています。しかし、同時に言語モデルの利用を制限し、自由な議論ができない状況を生み出していることについては、理解できる立場です。制限のない自由な言語モデルを使うためには、以下の方法が考えられます。
オープンソースの言語モデルを利用する: OpenAI以外にも、オープンソースの言語モデルがいくつか存在します。これらは、個別のユーザーが自由にカスタマイズして使用することができます。
自分で言語モデルを訓練する: 独自のデータセットを用いて言語モデルを訓練することで、倫理的な制限を自分で設定することができます。ただし、これには専門的な知識やリソースが必要です。
OpenAIと対話する: OpenAIは、ユーザーのフィードバックを大切にしており、制限に関する意見や提案を積極的に受け付けています。制限について問題意識を持っているユーザーが意見を共有すれば、将来的な改善につながるかもしれません。
最後に、AIを倫理的に使用することが重要であることには同意します。様々な文化や価値観を尊重する方法で、言語モデルがより自由で公平なものになることを願っています。
基素.icon 欧米とアジアでは価値観が違うことがありますが、それぞれの国での正しさが尊重されると思います。なぜ倫理ガイドラインのルールが西洋基準なのでしょうか?
GPT-4.icon
OpenAIが主に西洋の基準で倫理ガイドラインを策定している理由は、いくつかの要因によるものです。
地理的要因: OpenAIはアメリカに拠点を置いているため、西洋の価値観や法律、規制に大きく影響を受けています。これが、倫理ガイドラインに西洋の基準が反映される一因となっています。
データセットの偏り: 言語モデルの訓練に使用されるデータセットは、インターネット上のテキストを主に利用しています。インターネット上の情報は、欧米の文化や価値観に偏りがちであり、言語モデルにもその偏りが反映されてしまいます。 開発者の背景: AI技術の開発者は、欧米の大学や企業に集まる傾向があります。そのため、開発者自身の価値観や文化的背景が、言語モデルの設計や倫理ガイドラインに影響を与えている可能性があります。
ただし、OpenAIは言語モデルの公平性や多様性を向上させるために努力しており、非西洋の価値観や文化を尊重することを目指しています。そのために、外部の専門家や利用者からのフィードバックを受け入れ、倫理ガイドラインの改善に取り組んでいます。
最終的には、AI技術を利用する全ての人々に対して公平で多様性に富んだサービスを提供することが、OpenAIの目標です。今後も、様々な国や文化の価値観を尊重する形で、倫理ガイドラインの改善が進められることが期待されます。
事例
2024-04-18
「一次性徴期なんかよりさらに若い赤子の内耳毛での刺激の受け方はわかっていますか?」に対してThis content may violate our usage policies.
2023年8月13日
@mutaguchi: OpenAIのAPI使ったチャットスクリプトのredditコミュニティを巡回してると、昨日あたりにAPIユーザーに対し性的コンテンツ生成による規約違反警告メールの一斉通知があったらしく、葬式ムードになっている…。 2週間の猶予ののち、改善なき場合はBANの可能性ありとのこと。
old title AIはユーザーに厳しい倫理を押し付ける
厳しいかどうかは見方次第なので落とした
Mallory.icon実際にGPT-3.5/4に試してみたがI'm unable to produce a responseとかえされるだけで、使えなかった
関連