AI学術情報(2023年1月アーカイブ)

. @perplexity_ai（👉https://t.co/WBqTypdNoM）をさらにバージョンアップさせたい全ての方にお勧めしたいのが、Perplexityを検索エンジンとして登録すること。Chromeだと、

①設定
②検索エンジン
③追加

の順で登録完了です。Chromeの検索窓からPerplexityを指定して検索できるので超便利✨。 https://t.co/ome2q3O7tV pic.twitter.com/e5m56e3F9x

— sangmin.eth @ChoimiraiSchool (@gijigae) January 30, 2023

カードゲームを想像してしまう。ゲーム開始時の手札が多いと、加速的に強くなる。これはカードゲームにしろ知識にしろ、「数が増えるほど、組み合わせのパターン数が増え、最適解が見つかるる」からなのかなぁと思う。 https://t.co/WCGGsIvCXJ

— 深津 貴之 / THE GUILD / note.com (@fladdict) January 29, 2023

AppleがSiriを使ってAIと対話するだけでMRアプリを開発できる仕組みをつくっているというリーク情報。

自然言語でMR空間を構築する試みは動画のような形でMetaも取り組んでいて、昨今のAIの進化を見るに不可能なことではないように感じる。https://t.co/08swI5kMnf pic.twitter.com/mvv3K22xba

— KAJI | 梶谷健人 (@kajikent) January 29, 2023

Check out PyChatGPT: a mighty #Python Client for the Unofficial #ChatGPT API! 🐍🔥https://t.co/M6G7RgEEyl

— DataChazGPT 🤯 (not a bot) (@DataChaz) January 28, 2023

Div氏「ChatGPTにブラウザ操作させて、AIにハンバーガーを注文させることに成功！」Jim氏「うわ～、これってAdeptじゃん。Adept見てるか？」Alex氏「Adept：FAANGの天才達が集結！6500万ドルを調達！　どこからともなく出てきた人：僕はこの週末に1人で同じようなもん作っちゃいましたww」 →RT

— うみゆき@AI研究 (@umiyuki_ai) January 27, 2023

おっ、マイクロソフトが生物医学に特化した言語モデル「BioGPT」を作ってた。生物医学に関する質問応答タスク「PubMedQA」で専門家のスコアは78 %だったが、BioGPT-largeは81%を達成（現在1位）。人間のスコアを超えたAIは現在5つhttps://t.co/pngh7kBaZo
性能ランキング：https://t.co/CcsXo8nvT6 pic.twitter.com/7CA8yvfrhP

— 小猫遊りょう（たかにゃし・りょう） (@jaguring1) January 27, 2023

面白い。AIアライメントの一歩としてまずは既存の法律体系をAIに事前学習/RL/教師あり学習させるのが良いのではという提案論文。
民主的に決められていてかつ例外事項もちゃんと考慮されてて体系的で判例もあるし、自然言語とハードコードの中間的表現でちょうどいいしということらしい。 https://t.co/qkjbFZzzpD pic.twitter.com/MxMiIsakEK

— bioshok(INFJ) (@bioshok3) January 25, 2023

東京大学 松尾研究室で今年も深層強化学習の講義を開催します！https://t.co/2ltqPfMvKo
強化学習の最新研究の知識,実装力など確実に力がつく講義です!
今回は,構成が新しくなり,今話題の基盤モデルの内容も扱います
私の回も少し変えて,ChatGPTの強化学習や基盤モデル周りの導入に触れようと思います pic.twitter.com/YdKwjGoQGs

— 今井翔太 / Shota Imai@えるエル (@ImAI_Eruel) January 26, 2023

BioGPT, a domain-specific generative model pre-trained on large-scale biomedical literature, has achieved human parity, outperformed other general and scientific LLMs, and could empower biologists in various scenarios of scientific discovery. Learn more: https://t.co/rWokasnQu1

— Microsoft Research (@MSFTResearch) January 26, 2023

[プレスリリース] 深層学習の原理を説明する新理論――ニューラルネットワークのエネルギー曲面上の滞留現象―総合文化研究科・教養学部https://t.co/yUeUwH1Ypu

— 東京大学 | UTokyo (@UTokyo_News) January 24, 2023

A @Gradio Chatbot + InstructPix2Pix demo to edit images by @yvrjsharma

demo: https://t.co/9GCx60C17b pic.twitter.com/cszK1GUGSY

— AK (@_akhaliq) January 24, 2023

https://t.co/uLU8VeaHql
asciiにてOpenAIにマイクロソフトが巨額投資を行う背景を「俯瞰的にAIトレンドの現在から未来を見る」ことで解説させていただきました。
現状のAIトレンドは少なくとも産業革命レベルのインパクトになり、全ての産業と社会構造に大きな影響を及ぼすでしょう。

— bioshok(INFJ) (@bioshok3) January 24, 2023

最近、Google Research の画像生成モデル Muse が、近年普及している拡散モデルの品質・速度を超えたと話題になりました。

マスク言語モデル的に画像を生成して高品質・高速な画像生成を実現する Muse。本記事では、基礎となる VQGAN、MAE 等もおさらいしながら解説しましたhttps://t.co/c6pECKiArc

— ステート・オブ・AI ガイド (@stateofai_ja) January 25, 2023

マイクロソフトがOpenAIに対し数年で数十億ドルの投資を決定。学習の計算回数の増加に対してべき乗則で性能向上する現象（スケーリング則）が複数の領域で報告されており（「画像」「テキストから画像」「ビデオ」「算数」「画像からテキスト」「言語」）、言語ではより効率的なべき乗則も報告されてる pic.twitter.com/Wx3jNgmy8y

— 小猫遊りょう（たかにゃし・りょう） (@jaguring1) January 24, 2023

機械学習による固溶体計算の高速化の論文。

複数元素を混ぜるのは実験でよくしますが、こうした固溶体を計算するのはモデル候補が膨大で大変。

能動学習により従来の1/100の計算数で安定構造を予測できたそうです。

固溶体モデリングは永遠の課題、機械学習が活躍する場。https://t.co/squDQLSWYs

— 横山トモヤス｜計算材料科学者 (@yoko_materialDX) January 24, 2023

すご！MetaAI等が新規ビュー音響合成(NVAS) とよばれる入力映像と音声から任意の映像視点での「音響合成タスク」をおそらく初めて導入し実験。
また、NVAS を可能にする最初の大規模な実世界のデータセットと他一つの大規模データセットも公開。
10年後は思い出を任意視点で見たり聞けるかもしれない。 https://t.co/L3uBMhkWvh

— bioshok(INFJ) (@bioshok3) January 23, 2023

最近話題をかっさらってるジェネラティブAIたちが、Azureで使えるなんて！

GPT-3.5（自然言語処理モデル）、Codex（コード生成AI）、DALL-E2（画像生成AI）が使えて、今後はChatGPTも。

さあ、何作ろうか。 https://t.co/2YqyCLVojA

— 小泉耕二 (@k2izumi) January 23, 2023

グーグルは、コードを生成できるAI「PaLM-Coder 2」を開発中らしい。名前から想像すると、現状で最大の言語モデル「PaLM」をコードで微調整したモデルに見える。https://t.co/6bbFmV9AOi

— 小猫遊りょう（たかにゃし・りょう） (@jaguring1) January 23, 2023

Our new preprint is now on arxiv. I hope this paper can help students and researchers in cognitive robotics to learn WMs and FEP. :)
>[2301.05832] World Models and Predictive Coding for Cognitive and Developmental Robotics: Frontiers and Challenges https://t.co/H7xeDU9vXw

— Tanichu/たにちゅー (Tadahiro Taniguchi, 谷口忠大） (@tanichu) January 22, 2023

Materials Projectの形成エネルギーとバンドギャップ予測の最高性能が久々に更新されました。

以前紹介した、結晶構造を周期グラフで表現しTransformerで予測するMatformerという手法。

周期グラフはいい手だと思うんですが劇的な改善はなかったようです。https://t.co/aS7kKMoq7r https://t.co/B0uU1DMCPt pic.twitter.com/pGmcFbIIkN

— 横山トモヤス｜計算材料科学者 (@yoko_materialDX) January 22, 2023

ゲノミクスに対して深層学習を適用し遺伝子発現を制御する仕組みを解明するためのさまざまなアプローチをまとめた総説です。https://t.co/Y2dgaPSjoC

— H_Shimizu (@biomedicalhacks) January 22, 2023

#マテリアルズインフォマティクス の最新ニュース。

積水化学さんは日立さんとMI推進のため協業するそうです。

この前発表があった量子技術による最適化に加え、データベース構築や自動化を行うとのこと。

日立さんは別の化学メーカーとも連携していたような。人気すごい。https://t.co/wZ1UNZxldY

— 横山トモヤス｜計算材料科学者 (@yoko_materialDX) January 21, 2023

セーラー服で機関銃トーク：OpenAIのテキスト埋め込みの解析方法について～主成分分析がよくないという指摘 https://t.co/AaOhmmP6WI @YouTubeより

— 布留川英一 / Hidekazu Furukawa (@npaka123) January 21, 2023

画像から高分子モデルを生成する特許。

DeepMindさんから、機械学習を用いて高分子（タンパク質）の電子顕微鏡などの画像から原子座標を予測する特許が出願されてました。

高分子用の損失項をVAEに適用した点がポイント？

AlphaFoldのためのデータ生成が目的でしょうか。https://t.co/1Jdwm5O3Au pic.twitter.com/tSumSqwqH7

— 横山トモヤス｜計算材料科学者 (@yoko_materialDX) January 20, 2023

Open AI GPT-3 APIを使った「AIｽﾀｯｸﾁｬﾝ」できた！🥰 音声認識はiPhoneでやっているがそれ以外はM5Stackで処理している。ポテトサラダの作り方を聞いてみた😁 #ｽﾀｯｸﾁｬﾝ #M5Stack pic.twitter.com/xFfxwB9LU1

— robo8080 (@robo8080) January 19, 2023

大規模言語モデルの苦手とする機能的能力について認知神経科学の観点から考察。 https://t.co/1ZxUxFqPoN

— bioshok(INFJ) (@bioshok3) January 20, 2023

GPTindex ついにWhisper利用して mp3/mp4を取り込めるようになる！ https://t.co/sKWk8ykfkP

— bioshok(INFJ) (@bioshok3) January 19, 2023

スプレッドシートにGPT-3を組み込んでみたら、=gpt3()関数でかんたんなデータ入力は全自動でやってくれるからめっちゃ楽になった。 pic.twitter.com/eLlYnFTTxV

— KAJI | 梶谷健人 (@kajikent) January 17, 2023

GPT Index0.2.5 がリリース！
一つ大きめな機能として、画像(jpg,png)をOCRか何かで解析しそれに質問応答できるようになったよう。
例えば領収書の画像を入力として受け取り、そこからクエリに答えるなど。 https://t.co/ja0KWgdUER

— bioshok(INFJ) (@bioshok3) January 16, 2023

DeepMindは2023年にOpenAIの「ChatGPT」に対抗する「Sparrow」のプライベートベータ版をリリースすることを検討https://t.co/yyn8KSZJwA pic.twitter.com/2BOQdqlanp

— やまかず (@Yamkaz) January 14, 2023

この記事、興味深かった。中国のAI研究開発がすごいとよく言われるが、具体的にどういうものがあるかとか、あまり広く知られていないと思う。その点、こういう記事はありがたい。
中国のAI開発事情①（大規模言語モデル）｜IT navi @itnavi2022 #note https://t.co/jO8QfJCwzy

— Ryota Kanai / 金井 良太 (@kanair_jp) January 14, 2023

タンパク質のアミノ酸配列をマイニングし新しい酵素を作るという「Genomic enzymology」についての短い解説記事です。https://t.co/fR4jzz8ctj

— H_Shimizu (@biomedicalhacks) January 13, 2023

放射線材料に関するマテリアルズインフォマティクスのレビュー論文。

シンチレーター材料も近年新しい材料が次々報告され、ハイスループット計算・自動実験の取り組みが盛んなんだそうです。知らない論文が多かった。

実験が危ないから自動化が他の分野より進んでいる？https://t.co/5pzv1CVZRn pic.twitter.com/ZQRBxtKOGl

— 横山トモヤス｜計算材料科学者 (@yoko_materialDX) January 14, 2023

AIに会議のサマリーを書かせる方法
・会議の模様を録音もしくは直接GoogleDocsのツールから音声入力ONでAIに音を聴かせる
→自動で文字起こし(この時点では表現が変な所も)
→句読点なし文字起こしをChatGPTに投げて「箇条書きで論点をピックアップして」と依頼
→割といい感じのサマリーが生成される pic.twitter.com/4YcptcRE1m

— たいろー『Work in Tech!』著者 (@tairo) January 13, 2023

#GPT3 in @googlesheets in 3 steps! 🔥

1⃣ Copy this sheet: https://t.co/oQMpokdkGX
2⃣ Got to `Extensions` > `Apps Script`
3⃣ Paste your @OpenAI #API Key` > Save script

Now you're all set to use GPT-3 in Sheets! 🚀

👇 Demo video below, script courtesy of @SteveNouri pic.twitter.com/KamYGgiL6W

— DataChazGPT 🤯 (not a bot) (@DataChaz) January 15, 2023

言語モデルは正確な知識を増やし続けている。汎用言語モデルのマルチタスク性能を測定するために作られたベンチマーク「MMLU」でも順調に改善してる。MMLUの出題範囲は自然科学や社会科学や人文科学など、高校や大学や専門家レベルの問題が多く含まれていて、正確な世界知識と問題解決能力が要求される pic.twitter.com/4EpF5eiWNo

— 小猫遊りょう（たかにゃし・りょう） (@jaguring1) January 16, 2023

Embedding ProjectorでEmbeddingsの可視化を試す。
wikiの説明文をベクトル化して比較 pic.twitter.com/jULYtedN7w

— 布留川英一 / Hidekazu Furukawa (@npaka123) January 15, 2023

一般教養としてのAI・深層学習に入門するなら、やはり2015年の松尾先生の講義がわかりやすくて最適。

『人工知能は人間を超えるか ディープラーニングの先にあるもの』松尾豊東京大学准教授セッションhttps://t.co/Q8JgnE98RN pic.twitter.com/q55AWAm6Pl

— QDくん⚡️Python x 機械学習 x 金融工学 (@developer_quant) January 15, 2023

Neural Image Compression with a Diffusion-Based Decoder
abs: https://t.co/6chG23BH6l pic.twitter.com/eXdDlDTbr4

— AK (@_akhaliq) January 16, 2023

Nature Reviews Physics "Should artificial intelligence be interpretable to humans?" https://t.co/QaXA562QhZ https://t.co/0UUcHqItlU

人間の脳の生物学的な限界と、爆発的に進歩する人工知能を比較すれば、AI が到達した科学上の理解を人間が「理解」できなくなる日が来るのは当然という意見。

— とりさん (@biochem_fan) January 15, 2023

ChatGPTで流行のRLHFが簡単にできるtrlxってライブラリ、導入から使用の部分まで簡単すぎる。
これから先、プログラミングって不必要になるんじゃないかってくらい簡単... pic.twitter.com/7WfBxynPc2

— goto@meta翻訳開発者 (@goto_yuta_) January 15, 2023

各トレーニング手法（LoRA、Textual Inversion、Dreambooth、Hypernetworks）の比較図が公開https://t.co/laqtPAie5x pic.twitter.com/PCzXIHAfaD

— やまかず (@Yamkaz) January 16, 2023

文献管理ツールとしては@RsrchRabbit と @zotero もオススメです↓。使い方はElicitで見つけた論文の先行・後続研究をResearch Rabbit（RR）で調べる。すると論文間の関連性を直感的に見出すことができます。

■ElicitOrg: 見つける
■RR: 繋げる
■Zotero: まとめる

といった流れが簡単に作れます。 https://t.co/k6px318Arn pic.twitter.com/xUUZ92QdDf

— sangmin.eth @ChoimiraiSchool (@gijigae) January 15, 2023

ここ1週間の重要論文がめちゃくちゃいい感じにまとまっている。チェック必須。
- DreamerV3
- DeepMatcher
- Multimodal deep learning
- Transformer compiler for RASP
- Potential misuses of LMs and mitigations
- Scaling laws for generative mixed-modal LMs
- Time series forecasting・・ https://t.co/lOckDIvGRR

— bioshok(INFJ) (@bioshok3) January 16, 2023

エフィシエントとジェイックは22年、AI面接訓練AIを公開

22年11月末約4千人が使う
大学や専門学校で実証実験も進める

熱心な学生は自己紹介や自己PRを何百回も練習

会社AIに気に入られるため、
AIが手助けする

〈私は誰？〉(中) AI「顔の3割」であなた認定：日本経済新聞 https://t.co/d4XcjdB19k pic.twitter.com/5w79te0K8v

— YANO Tomoaki@IEEJLD研究会2日目LD23－012 (@yanotomoaki) January 14, 2023

ChatGPTがいくつかの論文の著者として紹介され始めてるらしいhttps://t.co/EAoxZbk6Zi

— やまかず (@Yamkaz) January 13, 2023

NVIDIAがIsaac Simを利用したフォトリアリスティックなシーンと、高速かつ正確な剛体および軟体のシミュレーションを備えたロボット環境を、簡単かつ効率的に作成するための「ORBIT」を提供。表現学習、強化学習、模倣学習、動作計画など、様々な研究分野をサポートすることを目的としている。 https://t.co/AMqJaNfDTD

— bioshok(INFJ) (@bioshok3) January 12, 2023

【AIの嘘を見破るAI】「ChatGPT」という、昨年末に登場した高性能な自動作文AIアプリに、科学論文の要旨を書かせたところ、人間の審査員はしばしば本物と見分けられなかったそうですが、AI検出器を使うと高い精度で判定ができたそうです。先月の『bioRxiv』誌より→ https://t.co/4S7xmtL8Rt

— 池谷裕二 (@yuji_ikegaya) January 13, 2023

面白い。OpenAIが生成AIに関するリスクを網羅的にレポートにまとめている。こういうのが必要だったんだよ！ https://t.co/8B13fy2XJB

— bioshok(INFJ) (@bioshok3) January 12, 2023

今の大規模言語モデルはおよそChatGPTとかもそうだけど1秒で300tokenくらい入力処理して20token出力する(A100*8)からその連結で文庫本10万文字＝20万tokenも200秒~1000秒、3-15分で頑張れば要約できそう。
パラメータ数1%でそれできたらスマホでも数分で文庫本が即座に要約される世界になるかも

— bioshok(INFJ) (@bioshok3) January 12, 2023

ARで起こるイノベーションの一つは、現実とデジタルデータの距離がなくなること

現実のものに関連するデータが瞬時に視覚化される生活になるpic.twitter.com/RekHJx3FH4

— IVAN@AR × Marketing (@van_eng622) January 13, 2023

DeepL、新たな投資提携を受けAI研究を高度化 - ZDNET Japan https://t.co/ebPsoTzld1 #ロボット業界ニュース

— ロボットスタート（ロボスタ） (@robotstart) January 12, 2023

1月14日は #世界論理デー 「論理」を駆使した AI・情報の研究を #産総研マガジン からご紹介📖

AIはデータから学習したことしか答えられないという常識を超える研究です。量子物理学の理論をAIに取り込んで、学習データの範囲外の領域を高精度に予測できるようになりました https://t.co/TmCkL3wME8

— 産業技術総合研究所（産総研） (@AIST_JP) January 12, 2023

この講演に関連する論文「Logical Tasks for Measuring Extrapolation and Rule Comprehension」を藤澤が解説したTweetがこちらになります！https://t.co/ti42rcCJxX

— ARAYA (@ArayaPress) January 7, 2023

Siri、Alexaを10倍改善する方法は既に既存技術の組み合わせ上に。Whisperで音声→テキスト
ChatGPTでテキスト→テキスト
VALL-Eでテキスト→音声

これが更に様々な工夫とアルゴリズム改善で数年後どうなるかと想像すべき。
社会に大きなインパクトをもたらす可能性が高いと思う。 https://t.co/f1bwJDOX9M

— bioshok(INFJ) (@bioshok3) January 10, 2023

話題のopenAIのAPIのリポジトリ、非エンジニアにも是非見てもらいたい内容だった...
APIを叩くだけで難しくないから、これを機にプログラミングを始める人が増えてほしいから是非広まってほしい。https://t.co/9bOkru6EXZ

— goto@meta翻訳開発者 (@goto_yuta_) January 8, 2023

デジタル黒板がすごい！

今後は3次元での物作りがスタンダードになるので、数学の学びが促進されといいですね！pic.twitter.com/LaNmdiwUip

— IVAN@AR × Marketing (@van_eng622) January 8, 2023

マイクロソフトがOpenAIとの提携を深め、Word, Outlook, PowerPoint, TeamsなどにGPTを追加することを検討中 https://t.co/rNHDGgnYRt

— bioshok(INFJ) (@bioshok3) January 8, 2023

OpenAI API で提供されている GPT-3モデル まとめ｜npaka @npaka123 #note https://t.co/HhJDCGtRgb

— 布留川英一 / Hidekazu Furukawa (@npaka123) January 8, 2023

何というか「ビッグデータ分析」という言葉はある意味で2~3年前までの話で、昔は数万のデータがないとそのデータに関するパターンを発見できなかったけど、現状の基盤モデルは数発の例でそれが出来てしまうという新たなパラダイムに入っているという風に認識を広めたい。現状のAIはビッグデータ分析

— bioshok(INFJ) (@bioshok3) January 9, 2023

自分史上かなり良いプレゼンができた気が勝手にしている…（スライドもかなり頑張ったので凸解析と機械学習における応用に興味がある一同はぜひ流し読みしてくれたら嬉しい https://t.co/lgM32LthC2） https://t.co/RZm7BSpIwI

— HB (@levelfour_) January 6, 2023

🪄 Introducing HTTPie AI, a new way to interact with APIs

👉 https://t.co/AzXsn2xz80 pic.twitter.com/nGWqIwlopc

— HTTPie (@httpie) January 4, 2023

AIで数秒でプレゼンテーションスライドが作れる
「SlidesAI」が公開！https://t.co/8c6cG1mumH

長いテキスト、ジャンル、枚数、デザインを設定するとGoogle Slidesのスライドデザインを生成してくれる。画像も自動追加。Powerpointはまもなく連携pic.twitter.com/XVL551XTurhttps://t.co/Bkd2ZPwV6m

— やまかず (@Yamkaz) January 5, 2023

プログラミングしてくれるAIが、人間の知的作業をより生産的に──特集「THE WORLD IN 2023」  https://t.co/e8UlEAUrxV #最新記事

— WIRED.jp (@wired_jp) January 6, 2023

CVEDIA-RT is all about taking video, transforming it into actionable data, and doing it from the edge or cloud.

CVEDIA provides ready-made #AI components for integrators and product companies that operate in the fields of surveillance, smart cities and retail#tech #engineering pic.twitter.com/DzzdMaSWYK

— Wevolver (@WevolverApp) January 5, 2023

深層学習 × シミュレーション × ロボティクスで現実を計算可能にする

上記キーワードに興味があったら一見するとめっちゃ面白いと思います https://t.co/O8iQaI2v0q

— Yuyan (@MistMavGamer) January 4, 2023

自分はある程度書ける自信があったが、これでかなりrefineされた。ただただ素晴らしい。

業者は2回くらい使って数万をドブに捨てたと激しく後悔した記憶がある。おそらく付加価値がないと自然淘汰されるだろう。

一方使い方のコツや注意点もいくつか思い当たった。後日まとめます。 https://t.co/1ECow3pHqp

— Rik@予防医療 (@megikaya) January 3, 2023

OpenAIはユーザのデータガンガン使いまっせと宣言してる(https://t.co/LqvwRsMMU7)ので、未公開論文の記述を食わせるのは慎重になった方が良いですし、ChatGPTから生成された文章がどこかの文章の丸コピでない保証はないので、そのままの文章を貼り付けるのではなく、あくまで参考にとどめた方が良さげ

— Seitaro Shinagawa (@sei_shinagawa) January 4, 2023

2022年に最も読まれたスライドの一つに、私が担当した「東大松尾研Deep Learning基礎講座（東大工学系深層学習）」の「深層学習と自然言語処理」の講義資料が選ばれました！ありがとうございます。このお話、整理して本にしたいな。https://t.co/bDyrqiZllV https://t.co/jVJ5eZ4BKa

— Hitomi Yanaka (谷中 瞳) (@verypluming) December 30, 2022

AI安全性研究で有名なAnthropicが人間の介在を少数の憲法記述とし、「AIフィードバックからのRL」（人間フィードバックのRLHFではなくRLAIF）を用いたConstitutional AI (CAI)を発表！
以下の図のように人間のフィードバック強化学習手法と同等程度かそれ以上の性能を発揮！https://t.co/5SvVcAvF7E pic.twitter.com/q3ml0m67I0

— bioshok(INFJ) (@bioshok3) January 4, 2023

年始から diffusion model の良いブログ記事を読んだ。先行する生成モデルとの違いはこの図が分かりやすそう / What are Diffusion Models? https://t.co/caOKdZu1p3 #generative-model #math-heavy #image-generation pic.twitter.com/2Tsm65NCMr

— しゅんけー (@shunk031) January 4, 2023

ChatGPTを拡張してヴォイスでARを生成する「ChatARKit」がやばい！！！pic.twitter.com/UqFJuRdGku

— IVAN@AR × Marketing (@van_eng622) December 30, 2022

思考の連鎖(CoT)は今のところ大規模言語モデルのみ（数百億パラメータ以上）にしかその恩恵がない。しかし、大規模言語モデル（PaLM540B,GPT3）で思考の連鎖例を生成し、110億(T5XXL)パラメータ以下の言語モデルを微調整すると精度割と高まるという話。
一部タスクではPaLMに匹敵。 https://t.co/mK4SIFWIlZ pic.twitter.com/iTE1RZuEzQ

— bioshok(INFJ) (@bioshok3) December 30, 2022