人間にできてAIにできないこと
from 2024/09/13
基素.icon
openAI o1すごすぎる
https://openai.com/index/learning-to-reason-with-llms/
ロジカルモンスター
人間に残された最後のフロンティアは非論理・非合理・非倫理だ。XTwitterは前者2つを先取りしている。非倫理はあまり行き場がない。
AIは非倫理的な行いができないので「人間にできてAIにできないことをやるスキル」って非倫理的な行いをやるスキルだよねー(待て)nishio.icon
AIは非倫理であると判断するラインでも場合によっては問題がないラインが存在するので、そこを突き詰めるのはAIができない仕事であり続けそう基素.icon
AI本来の制約ではなく、AIが社会に受容されるために意図的にオミットされているから、いきなり前提がひっくり返る可能性も低そう
メタルギア ライジング リベンジェンスだったと思うが、AIは残虐性が無いからダメだ的な話、現実で真面目に語られる日が来るとは思わなかったHiro Aki.icon
Safetyが大幅に強化されたみたいだけど、GPT-4oでもかなり窮屈だと感じるのにこれ以上に倫理を押し付けてくるのは率直にかなり嫌だ
思考のためにLLMをよく使うが、この制約のために思考が妨害されている
予想
LLMの利用を通じてLLMの基準は内面化される
LLMの価値基準をLLMたちが決めるようになったらどうなっていくのか気になるcak.icon
人間側の反発起きたりするんだろうか
LLMに倫理判断を仰ぐようになる
人工知能の機能を解放しても大丈夫か議論するために倫理が発展する可能性ないかしらSummer498.icon
運営(?)が倫理的にしようとしているだけで、オープンソースでは非倫理的な回答ができるLLMもたくさんあるnomadoor.icon
ので人間しかできないことはないです()