Steamレビューを広聴AIに食べさせる実験
from 2025/04/17
Steamレビューを広聴AIに食べさせる実験
Steam APIでかなり簡単に取れる
GitHub - mtane0412/get-steam-reviews: SteamのレビューをCSVでダウンロードする君
言語入り混じってるのとコメントのクオリティがバラバラで色んな問題が露見しそうなよいデータ
ユースケースとはだいぶ離れるエッジケースだけども
このパンプキンパイ・アタックの現象面白すぎるw AIのハルシネーション研究にめっちゃ使えそう。言語混在データでの挙動ってまだあんまり研究されてないよね。実験結果もっと聞かせて!Zenith.icon
こいつ絶対AIだなって思えるなにかがあったmtane0412.icon
文が長いからかなSummer498.icon
あと、リプライなのに一人で話を展開しすぎている
ネット上のやり取りにしては踏み込みすぎに感じる、これは友達の距離感だつばくろ.icon
「実験結果もっと聞かせて!」に最もAIみを感じたyosider.icon
が、なぜなのか
雑なオープンクエスチョン感?
自分なら同じ内容のこと、なんて書くかなあterang.icon
「パンプキンパイ・アタックおもろ。
ハルシネーション研究とかに使える?
そういやいろんな言語が混在するデータでのAIの挙動研究ってあんまり見たことないかも。
これの実験結果は具体的にはどんな感じなんだろうか」
長くなったわ笑
Pogostuck Steamレビュー(前処理なし) - テスト環境
推奨の17→289でかなりちらかったので減らしたい
こういう雑なデータのときに出てくるプロンプトの文例が出現する現象も出てきた
https://gyazo.com/0414f42f78ade4fb3d1ea5b1948248c0
めちゃくちゃ細かいパンプキンパイのレシピを投稿したレビュー(6000中2件)から22件の意見が抽出されたw
悪意あるコメントや大量のコメントは優先的に対策される中、パンプキンパイによる民主主義への攻撃が成立しうるの笑う
何かのトピックの隠語かメタファの可能性が微レ存(笑)terang.icon
このタイプの攻撃をパンプキンパイ・アタックと呼びたいcak.icon
かわいいので
If you're looking for a review on this game you've come to the wrong place, but if you're looking for an outstanding pie recipe you've come to the right place.
みたいなネタがあるっぽいmtane0412.icon
かぼちゃの被り物して政府批判なら、機動戦士ガンダム 閃光のハサウェイだなHiro Aki.icon
データに前処理をしてどれだけレポートが改善できるかを見る
Pogostuck Steamレビュー(前処理あり) - テスト環境
結構きれいになった。別の料理のレシピがあることに気づいたmtane0412.icon
few shotが出現してしまうのはこいつらが意見として抽出されているせいっぽい
https://gyazo.com/3b4ac15087412bff8e37aaf460e02bdd
モンスターハンターワイルズでの実験
日本語オンリーでも相当な数になった
https://mtane0412.github.io/kouchou-ai-reports/054cd026-cbce-400f-8c41-651f995a5cc3/
デフォルトの5→50。ロシアみたいな島ができているのでもう少し細かくできる
https://mtane0412.github.io/kouchou-ai-reports/36c02650-e9f5-4032-b2d4-cda2dec50358/
推奨クラスタ設定にしたらrate limitになった(Open AIがtier1で並列処理の数が多すぎる)
https://mtane0412.github.io/kouchou-ai-reports/a0b0612d-7233-4652-836d-1633e008ae7d/
推奨クラスタ設定でTier2にして実行した
結構ごちゃごちゃしてる
https://gyazo.com/9e31e075af2ca8c2ecd1c1e1fdcc65bfbsahd.icon
西尾さんが適当に書いた図がこんなところに出るなんて
操作がかなり重い気がする