GPT-4
NLPまとめ
ChatGPT
ChatGPTの理解に必要な項目整理
Large Language Model
マルチモーダル
深層学習による自然言語処理
NLP2023
斜に構えてChatGPT課金してなかったけどさすがに即有料プランにしてしまった
激動となるである2023にちょうど社会復帰して世界が変わっていく様をみれるのはよかったという気持ちになっている
NLPもCVも4,5年前からそこそこ追ってきて、基礎ぐらいはわかるはずなんだけどなんでGPT-4がこんなにたくさんのタスクができるのかは全然腹落ちしていない、人間の脳がまだほとんど解明されていないのと同じような感じなんかな、、意味がわかる人がいたら教えてほしいです
もはや、ちまちました精度改善アイデアを実装してみるモチベが無くなってしまった、Scaling Lawで解決
これはやばいな、斜に構えていたけど、直感が今のうちにフルベットするべきだと言っている
If GPT-4 is multimodal, we can predict with reasonable confidence what GPT-4 *might* be capable of, given Microsoft’s prior work Kosmos-1:
https://twitter.com/DrJimFan/status/1634244545360609289?s=20
【速報】GPT-4が来週公開 それはマルチモーダルになるとのこと
https://twitter.com/Yamkaz/status/1633961810771714048?s=20
「初代iPhoneと同等の衝撃」と評されるOpenAIの次世代言語モデル「GPT-4」が2023年3月発表予定、画像認識機能や多言語対応の強化が実現か
https://gigazine.net/news/20230310-openai-gpt-4-microsoft/
GPT-4の性能をBingと比較してみた
https://note.com/it_navi/n/n4c1560b2cfcf
ここ数日で下した結論として僕らは、非エンジニアを軸に、LLMに全張りして社会実装していきます。
https://twitter.com/sarukun99/status/1635637281565409291?s=20
GPT-4の凄さとその影響範囲について
https://qiita.com/sakasegawa/items/4c6b9c3f703e89ec1c4d
Who owns the generative AI Platform?
https://a16z.com/2023/01/19/who-owns-the-generative-ai-platform/
自民党AIの進化と実装に関するプロジェクトチーム
https://note.com/akihisa_shiozaki/n/n4c126c27fd3d
ChatGPTのプロンプトデザイン、そして業務利用とその課題点について
https://qiita.com/nokonoko_1203/items/fbfca5d8e8cbe8ef6f1c?utm_campaign=post_article&utm_medium=twitter&utm_source=twitter_share
ChatGPT使い方総まとめ
https://qiita.com/sakasegawa/items/82069c97a1ee011c2d1e
ChatGPTのプロンプトデザインってなんだ?
http://soysoftware.sakura.ne.jp/archives/3691
翻訳 GPT-4 System Card (前編)
https://qiita.com/taka_yayoi/items/4dca63f26a654c296588
GPT4 vs ChatGPT
https://towardsdatascience.com/gpt-4-vs-chatgpt-an-exploration-of-training-performance-capabilities-and-limitations-35c990c133c5
https://twitter.com/zerebom_3/status/1637254055407001600?s=20
GPT4君謹製のPDF Summarizerできてきたぞ!
streamlitとFastAPIの疎通に苦戦した。ライブラリのバージョンが古いので、ちょいちょい手直しする必要がある。
FastAPI何も触ったことないし、今も何も知らないけど動いてるからすごい
ディレクトリ構造もreadmeも全部作ってもらった
https://twitter.com/Callimiya/status/1637260946715611137?s=20
GPT4で簡単な作曲できた
pythonのmidoとpretty midiで書かせてる
詳しくは↓
https://twitter.com/HaveShun/status/1637249785790099456?s=20
カードゲーム、GPT4で遊んで
I understand. Here is the complete prompt for the card game:
Objective: Play a simple card game with characters and their abilities.
Rules:
1. Each player has a deck of 5 cards.
2. Each card contains the following information:
* Character name
* HP (Hit Points): Represents the character's endurance.
* Ability 1 and Ability 2: The abilities the character can use to attack. Damage dealt varies by ability.
Gameplay:
1. A player selects a card from their hand and places it on the battlefield.
2. The player chooses one of the abilities on the card and uses it to deal damage to an opponent's card. Damage dealt depends on the ability.
3. When a card's HP reaches 0, the card is removed from the battlefield.
4. The game ends when both players have used all their cards. The player with the highest total HP remaining on the battlefield wins.
Commands:
1. draw card_number: Select a card with the specified card number from your hand and place it on the battlefield.
2. attack ability_1 or ability_2 opponent's_card_number: Use the chosen ability to deal damage to the specified opponent's card.
3. end_turn: End your turn and pass it to the opponent.
Example gameplay:
GPT-4はどのようにして「不適切な回答」を回避するように学習されているのか
https://qiita.com/ikeda_yasuhiro/items/3c633ddf0f3119051fe0
https://twitter.com/sanpo_shiho/status/1637049414480187397?s=20
GPT-4、コードの生成とか色々触ってみて「すごいけど、実践的に使うにはまだまだかな〜」と思ってたけど、最近練っている技術的なproposalをざっくり投げて、「これに技術的な質問や懸念点を挙げて」と言うだけで、完全に的を得ているマサカリを12個も投げられて大泣きした
https://twitter.com/johnjnay/status/1637094024480710657?s=20
Language Model Secret-Keeping
-A model-agnostic secret-keeping approach
(just needs secrets & output of a QA system)
-Secret-remover is more accurate than output-sanitization
-Keeping many secrets causes paranoia
-Lack of context causes leakage
https://twitter.com/tomolld/status/1637059336185987073?s=20
Autonomixというアプリケーション開発しました。
デモを公開します。
AIに自然言語で指示するだけで何でもしてくれます。
Gmail、Slack、Excelなんでもいけます。
ChatGPTがチートな理由
https://twitter.com/hiraoka_dx/status/1637012292532596738?s=20
どう見てもGPT-4は世界モデルや心の理論を獲得しているようにも見える。なぜ言語だけでここまでいくのか。言語に随伴する隠れ変数がもたらしたのだろうか。
https://twitter.com/alfredplpl/status/1637061714251489280?s=20
https://twitter.com/kajikent/status/1626159506458648576?s=20
リプが良い
今週最も読まれたミハエル・コシンスキー 博士の論文がちょっと衝撃的。
最新のGPT3.5は、「心の理論(ToM)」という相手の考えを理解する能力を測る課題において、93%のタスクを解決し、すでに9歳児と同等の心の理論を獲得していることを発見。
https://twitter.com/forasteran/status/1636922012672344066?s=20
もしかして…
GPT-4はBLIP-2超えてるんじゃないwww
GPT-4マルチモーダル版で、Image Captioningタスク(画像の内容を自然言語で説明するタスク)をやらせたら、
現在SoTAなBLIP-2のスコア抜ける気がするw
https://twitter.com/note_PR/status/1636624312852684800?s=20
公開されたばかりのチャットAI「GPT-4」。
なにがどうすごいのか?わかりやすい記事やみなさんの活用法をまとめました👇
https://twitter.com/ImAI_Eruel/status/1636947916161187841?s=20
スタンフォード大学とかは, ChatGPT, GPT-4みたいな大規模言語モデルの教育にも力を入れてて,授業で基礎知識の講義や論文レビュー,更に計算機リソースを与えて実際に言語モデルを作らせたりしてます
https://stanford-cs324.github.io/winter2022/
講義資料も講義サイトで公開されているため,GPT,LLMに興味がある人は是非!
https://twitter.com/hatebu/status/1636692882898960384?s=20
GPT-4で長門有希を召喚するプロンプト https://anond.hatelabo.jp/20230317165032
https://toyokeizai.net/articles/-/660082
重要な論点
「GPT-4を恐るべき理由」
・ オープンAIが制止する前にしていたことの、いくつかの恐ろしい例が掲載
・ 例1 「危険な化学物質を作るレシピ」
・ 例2 「当局に通報せずに銃を購入するためのアドバイス」
・ 最悪のAIリスクとは、私たちが予測できないもの
https://twitter.com/kajikent/status/1636214081979047936?s=20
GPT4の論文を読んでたら、GPT4が新薬の開発までやってて腰抜かした。
既存の医薬品の情報を送ると、類似した性質を持つ化合物を見つけ、特許侵害しないように修正し 、購入可能なサプライヤーへの注文メールも作成する。