Contents
『近々リリースするGPT4とは？ ChatGPT（GPT3.5）よりどこが「パワフルなAI」なのか』についてTwitterの反応
これは、OpenAIが開発しているテキスト生成AI「Generative Pre-trained Transformer（GPT）」のバージョン3を微調整したモデルがベースになっているが、このChatGPTをしのぐといわれるのが、近々リリースされるGPT4だ。
現在このChatGPTを開発したOpenAIがよりパワフルなAIを近々リリースするのではないかとの臆測が流れ、海外メディア／ソーシャルメディアでは注目の話題となっている。
開発の歴史をさかのぼると、まずGPT1が発表されたのは2018年。
現実には、ラベル付けされたデータセットは入手が難しく、モデルの精度向上に限界が見えていた。
GTP1は、こうした課題を念頭に、ラベル付けされていないデータを用い、教師なし学習と教師あり微調整モデルによる学習を通じて、幅広いタスクに対応することを目的に開発された。
膨大なデータセットを活用 2019年の論文で公開されたGPT2は、GPT1よりも大きなデータセットを用い、パラメータも1億1700万の10倍以上となる15億に増えた。
GPT1開発のときはBooksCorpusというデータセットが用いられたが、GPT2ではインターネット掲示板Redditからスクレイピングされた40GB分のテキストデータが使用された。
●GPT3とChatGPTの違い 2020年の論文で公開されたGPT3のパラメータは、GPT2の100倍以上となる1750億に増加、データセットも5つの異なるコーパスが用いられた。
その5つとは、2011年以降のウェブデータを収集してRedditリンクからスクレイピングされたウェブデータで構成される書籍のデータセットBooks1とそしてWikipediaだ。
論文では、GPT3は長い文章の作成途中で一貫性が失われたり、空白埋めや推論など一部のタスクでうまく機能しないと報告されたが、文章のクオリティは人間が書いたものと見分けがつかないほどに向上した。
ChatGPTとGPT3の違いは、GPT3が言語翻訳、テキスト生成など幅広いタスクを実行できる汎用モデルであるのに対し、ChatGPTは会話形タスクに特化して微調整され、モデルのサイズもGPT3に比べ小さくなっている。
このため、複雑な言語タスクでは、ChatGPTはGPT3と同じパフォーマンスが得られない場合があるとされる。
最近では、ChatGPTが米国の司法試験、医師免許試験、会計士試験を通過する可能性を示す研究報告が相次いでおり、注目度は日に日に高まっている状況だ。
臆測の中には、GPT3のパラメータが1750億であったのに対し、GPT4のパラメータは100兆になるのではないかというものも存在する。
OpenAIのサム・アルトマンCEOは、StrictlyVCのインタビューで、そのような噂は馬鹿げたものだと一蹴し、噂が独り歩きし、期待が過剰に膨れ上がっているのが現状だと指摘している
一部では、GPT4が汎用人工知能（Artificial General AI＝AGI）のような姿になるのではともいわれているが、この噂に対してもアルトマンCEOは、OpenAIではAGIを有しておらず、まったく根拠がない話だと語っている。
パラメータが100兆になるのではとの噂は、おそらくWIREDの2021年8月24日の記事がもとになっていると思われる。
このインタビューの中でフェルドマン氏は、GPT4は100兆のパラメータを持つモデルになる可能性があり、開発には数年要するだろうと発言していた。
現存する大規模言語モデルで最大となるのは、NVIDIAとマイクロソフトが開発した「Megatron Turing NLG」で、そのパラメータ数は5300億とGPT3の3倍以上となる。
ニューヨークタイムズによると、GPT4は早ければ2023年1～3月期にリリースされる可能性があるとのこと。
ChatGPTの登場で、グーグルが対抗の「Bard」を一般公開するなど、経済・社会・市場にさまざまな影響が出ている。
（元記事の出典：ビジネス＋IT）
『近々リリースするGPT4とは？ ChatGPT（GPT3.5）よりどこが「パワフルなAI」なのか』についてTwitterの反応
ヤマタケ-業務自動化とSEOを極め中
@gas_seo次世代Bingはウェイトリスト登録して利用できるようになりますが、すでに利用できる方が出てきているようです。次世代BingはChatGPTよりも応答速度が速いGPT-4を搭載しています。ウェイトリストの申込みと順番を早くす… https://t.co/kq1IO7OZN3
ナポリタン寿司のサブ垢＠月間24万PVブロガー
@NaporitansabuGoogle、BingのAI導入。これからブログがどうなることやら。今すぐにってことはないと思うけど、検索とかSEOとかガラッと変わってしまったら嫌だな。進化早いし不安。なんとか順応して生き残りたいものだ#ブログ… https://t.co/US3FV15mmc
デジタロー | ITコンサルタント
@PCtarot使ってみないとなんともわからないけど、圧倒的な未来感。 iPhone が出たときぐらいの衝撃となるか？注目ですね。https://t.co/SkGlFSX3Qx
神谷広海
@hiroumikamiyaこうやってどんどん争ってくれると進化も加速しそうですね。#AI #ChatGPT #Bard #Google #Bing #GPT4 https://t.co/ERfMG112ka
紅閣史 紫陽(こうかくし しはる)
@v8vn9こういう記事を読むと数年後、あるいは数ヶ月後には検索サイト、ブラウザのシェアハウスが大幅に変わって、Googleが見る影もないということも有り得そうですね。https://t.co/0uxXyrrUqM
shunkeen
@shunkeen“質問を行うとAIが解釈し、要求に応じて複数のサイトで検索を行います。さらに情報の出典を強調して表示する”／求められていた出典明示の機能があるのか。まぁ、出典の信憑性は別途確認する必要があるだろうけど / “ChatGPTよりも高… https://t.co/1jEu532ypX
サバイサバイFX | SABAI SABAI FX
@thaikabu365Bingが少しづつ検索エンジンのシェアを伸ばしてきたりして・・・ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見されるhttps://t.co/XRmuxAB3Dm
ベル15
@bpeldi2oerkd8遂にGPT4がbingに搭載か検索の常識が変わるかも#ブログ仲間と繋がりたい #ブロガーさんと繋がりたい #ブログ書け #駆け出しエンジニアと繋がりたい #エンジニアと繋がりたい #gpt4 #bing #Google https://t.co/uorcad2JyP
みつと
@mitsuto_ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINE https://t.co/R2jz2zOhdT
matcha
@matcha_500mlbingのgpt4載せてるアレ使おうと思ったけど規定ブラウザにしろだのスマホにbingのアプリ入れろだのやかましいな
Dr. Roy Ich-Meyer
@ichimiyarMicrosoftがGoogleによるChatGPTのライバルとなる「Bard」の発表から数分後に突如2月8日に発表イベントを開催すると発表、検索エンジン「Bing」向けのChatGPT(GPT4)が発表される見通しhttps://t.co/nBc0Wj6ztA
かまあげ
@kamaageakiraさあ食らえGoogle。この渾身のBINGを！！！https://t.co/KtZYzuX3b5
Toshi⁷ MD,PhD 🇺🇸｜アメリカで研究＆開発
@tokitkyこれまた興味深い動き！GPT4搭載のBingが数週間内にリリースとの動きをうけて、Googleも動いてきた！APIやアプリ構築支援ツールも公開という話で、新しい経済圏ができそうな予感！ここにノーコード勢がうまくハマれば、中小から成… https://t.co/P6ABi1W35b
ケイティBr@カクヨムとYoutube向けにラブコメ書いてます
@keisyosetsuhttps://t.co/tMRNNpR5W3ほぇぇ。ブラウザに実装される見込みがあるのか。
狼画オキシ🐺@お絵描きVtuber
@rougaoxy早くbingでGPT4を試させてくれ
藤井あきら🗻デジタル都議🏳🌈スタートアップ議員
@fujiiakiratokyoちょっとBingの検索を改めて使いたくなりますね。ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINE https://t.co/VBOVvQfK4v
都内で働くSEの技術的なひとりごと
@tonaidehatarakuいつごろ許可されるんだろうか。https://t.co/nPvM8vPX6Y
らむね
@__ramu0e__それにしてもモデル出力に広告含めるの思いつかんかった…去年の10月頃T5でBing GPT4の劣化版みたいなの作った時、使用料以外でどうやって収益得るかめっちゃ迷ったもん…
ヤマタケ-業務自動化とSEOを極め中
@gas_seoGPT-4が搭載されたBingプレビュー版が公開されたので、早速試用してみました今は予め用意された12個の質問しか試せないですが、フルアクセスできるようになるウェイトリストに登録してみましたウェイトリスト申込みと順番が早く… https://t.co/Z6X51CkJid
むむむ@常に模索中
@mumumu_ATG#ChatGPT の次のver（GPT4?）が組み込まれる予定の新しい #Bing （マイクロソフトの検索エンジン）のウェイティングリストに登録した！楽しみ。一般の人も登録無しで一カ月位で使える様になるかもしれないね。
福岡真之介 弁護士/sfukuoka.eth
@shin_fukuokaMSがBingにChatGPTを統合するとの記事が流れているが、GPT-3ではなくGPT-4とのネット記事もあり、実際のところどうなのか気になる。GPT-3と4の違いについては下記の（予想）記事がある。モデルの大きさと性能は比例し… https://t.co/IMPAqwmM7t
ri_mo
@ri_moなるほど！調べてみるとGPT-4めっちゃすごそう。Bing楽しみだ！ChatGPTにはいつ掲載するんだろう？https://t.co/uGdS1i8KPX
二本松哲也 ♢ qualias.eth
@t_nihonmatsuMicrosoftが取り組む４つの革新的技術1. Open AI2. Prometheus Model 3. Core Search Index4. User Experience例えば膨大な検索結果から、同時にAIが要… https://t.co/qtaAkAMJIU
二本松哲也 ♢ qualias.eth
@t_nihonmatsuBingが目指すものとは。"1 + 1 = 3"本日行われたMicrosoft bing 記者会見を拝見しております。日本語同時翻訳付きです。どうぞご覧ください。■ Watch the video of today’s a… https://t.co/DoeaNaX7My
Akeelie
@akeelie99ChatGPTがたった2ヶ月でこのインパクトと時代の変わりっぷりだからなあ🤯MSのBing+GPT4とGoogleのBirdでさらに変化が加速するのは間違いないねつーか速く使いたい😤
二本松哲也 ♢ qualias.eth
@t_nihonmatsuこちらが、Microsoft がリリースした新しいBing検索エンジンと Edge ブラウザーの製品サービスページとなります。#Bing #ChatGPT #OpenAI #GPT4■Reinventing search wi… https://t.co/iCQfrxjyVB
二本松哲也 ♢ qualias.eth
@t_nihonmatsu本日、MicrosoftはAI を活用したまったく新しいBing検索エンジンと Edge ブラウザーをリリースしました。今後数週間で、プレビューを数百万にスケールする予定です。モバイル エクスペリエンスも間もなくプレビューされま… https://t.co/U3nEImCoPg
ZER01CHI（中の人：NISHIKAWA Katsuyuki）
@zer01chiBingに搭載されるGPT4の動作動画が流れ出している。先行利用が始まっている模様。
二本松哲也 ♢ qualias.eth
@t_nihonmatsuGPT-4を用いた新しいBingについて、詳しくは Owen Yin 氏の記事 "Oh the Things You’ll Do with Bing’s ChatGPT" をご覧ください。#Bing #ChatGPT… https://t.co/IZDUR36NOG
二本松哲也 ♢ qualias.eth
@t_nihonmatsuご参考までに、GPT-4を用いた新しいBingでは検索とともに、こんな質問に回答できます。#Bing #ChatGPT #OpenAI #GPT4
（出典 ）
二本松哲也 ♢ qualias.eth
@t_nihonmatsuフォロワーの皆様、GPT-4を用いた新しいBingはこちらからアクセスできます。https://t.co/WntjaM8byO#Bing #ChatGPT #OpenAI #GPT4
（出典 ）
二本松哲也 ♢ qualias.eth
@t_nihonmatsuBing の ChatGPT でできることマイクロソフトは、これを検索エンジンの進化形と位置付けており、検索バーがチャットボックスとなり、ChatGPTの高速バージョンである OpenAI の GPT-4によって強化されます。… https://t.co/VcZPHrDeOD
しんいち
@oyamanda2000新しいBingにみるMicrosoftのAI戦略 https://t.co/PVPntuVTN6GPT3では学習モデルのデータが2021年6月までだが、ChatGPT搭載Bingをリリースするには最新データに対応する必要がある… https://t.co/2AZL4Dhqfe
Shinji Yamada
@santa128bitBingにGPT4まだ来てないけど、りんなちゃんが常駐していることを知った。GPT4ベースでりんなちゃん作ってくれたら日本のユーザー(の一部)が喜ぶと思う。
たぁー＠社会人大学生・経営者
@ojisan_uopeopleそっか。Microsoftはbingにgpt4を搭載か。IT業界久々の大型ゲームチェンジかも知れないなー。。SEOとか急速に市場がシュリンクする。タイムズ紙とかForbesとか2022年末からずっとGAI一色。マイクロソフ… https://t.co/3cYFSMue0u
きり㌠@
@kirimemoChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される https://t.co/fGBwcTH3bi
いはら(はなげ)さいかく
@Cykaku順当すぎて雑草も生えないwChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINE https://t.co/AYJYA4mBcp
kyu3（キューさん）
@kyu3@Xenophias Noooo!!! いまは「ぐぐる」より「びんぐ」。☺️つ https://t.co/oXXrjLKknC
中津川💎昴𝕤𝕦𝕓𝕒𝕣𝕦𝟚𝟘𝟙𝟚𝕚𝕟𝕥𝕙𝕖𝔽𝕦𝕥𝕦𝕣𝕖
@subaru2012ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINE https://t.co/prUkypX7eD
久野木吉蔵
@dancinheads「…情報の出典を強調して表示するとのこと。」良いな。＞ #ChatGPT よりも高速な #GPT-4を搭載した #Microsoft の検索エンジン「#Bing」の新インターフェースのプレビューが発見される - GIGAZINE https://t.co/pRIpIpF1EP
𝕶𝕮 𝖙𝖍𝖊 𝕹𝖎𝖌𝖍𝖙 𝖂𝖆𝖑𝖐𝖊𝖗 🇯🇵
@KcricehillMicrosoftが突如2月8日に発表イベントを開催、検索エンジン「Bing」向けのChatGPTが発表される見通し - GIGAZINE https://t.co/jCnZa0iwyahttps://t.co/JDLVJs0sxc
伊藤潔人@Excel VBAユーザー向けPythonキンドル本（OpenPyXL入門）執筆中
@kiyotoiChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINEhttps://t.co/7ccZp7yPtD
YUKI
@T2YAkunChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される / “ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing… https://t.co/NfxuLbpT9a
seiya
@seiya_kawanoChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINE https://t.co/2rKe1m1Etb
最新家電ニュース
@kaden_news1ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINE（ギガジン） https://t.co/01Mdp2fSjK
Takumi
@_saltedlemonMicrosoftのBingにGPT4.0のせるみたいな話とかGoogle検索に会話機能のせるみたいな話を見ると、webからタダで無制限に情報を得られる時代は終わるんじゃないかなって危惧しちゃう多くのwebサイトって検索エンジン… https://t.co/QLIXYVpwWb
ヨウシ
@heatup4ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される https://t.co/7fa4fkASKX
ライ🇺🇦オス
@November_SchneeChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINE https://t.co/E50HYXzCMS
しゃる1009games@結束バンド
@sharu_101ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINEhttps://t.co/EoNa1pmkrx
kojira
@kojiraChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される#Gyaaaan https://t.co/7UKPj0Vsc8https://t.co/XJZ5eqSPbv
