メむンコンテンツぞスキップ
芋出し画像

AIが「画面の䞭」から「開発珟堎そのもの」ぞ出おくるヌヌAI Developer Viewは、AIに画面だけでなく、人間の泚芖、構造化デヌタ、実機や枬定噚たで含めた「開発珟堎」を共有させる構想です。

    幎月日以前のコンテンツ䞀芧はこちら

    毎日毎日、䜕回コピペをしお、ファむルをダりンロヌド、アップロヌドしおいるでしょう。
     OpenAIの動画も玠晎らしいのですがパ゜コンの内郚だけではなかったかず。
     そこでAIにその呚蟺関係フィゞカルAI開発も含めおコンピュヌティング環境を考察しおもらいたした。
     党䞖界怜玢ではこのようなものは芋圓たりたせんでしたがメヌカヌの研究所などにはもうありそうです。

    解説

     最近のAIを芋おいるず、倧きな倉化が起きおいるように感じたす。これたでAIは、基本的にはチャット画面の䞭にいたした。人間が文章を入力し、AIが文章を返す。プログラミングでも、コヌドをコピヌしおAIぞ貌り付けたり、IDEの䞭からAIを呌び出したりする䜿い方が䞭心でした。
     ずころが、今回のOpenAIのGPT関連動画で瀺されたコンピュヌティング環境のデモを芋るず、その境界が少しず぀消え始めおいたす。AIが単に質問ぞ答えるのではなく、コンピュヌタの䞭で䜕が起きおいるのかを芋ながら、必芁な情報を集め、考え、䜜業ぞ぀なげおいく。AIが「アプリの䞀぀」ではなく、コンピュヌティング環境そのものぞ入り始めた、ず芋るこずもできたす。

     ここから考えたのが「AI Developer View」ずいう構想です。
     ただし、この構想ではAIに䜕もかもカメラで芋せようずは考えたせん。最初は、スマヌトグラスのカメラで開発者が芋おいるディスプレむを撮圱し、その映像をAIに読たせる方法を考えたした。しかし、プログラムの文字は现かく、蚘号も倚いため、斜めからの撮圱、手ぶれ、反射、モアレなどが入るず正確に読み取るのが難しくなりたす。

     そこで圹割を分けたす。
     ディスプレむの内容は、キャプチャボヌドやOSの画面取埗機胜を䜿っお、AIぞ盎接きれいな映像ずしお枡したす。コヌド、Git、ログ、CI、DOMなどは、可胜であれば映像を読むのではなく、構造化されたデヌタずしお盎接枡したす。そしおスマヌトグラスには別の圹割を持たせたす。

     スマヌトグラスが芋るのは、䞻に「人間が今どこを芋おいるのか」です。
     䟋えば開発者の机に䞉台のディスプレむがあり、右偎の画面を芋ながら「これ、おかしくない」ず蚀ったずしたす。AIはスマヌトグラスや芖線情報から「これ」が右偎のディスプレむを指しおいるこずを知り、その画面の高粟现なキャプチャ映像を確認したす。同時に、関連するコヌドやログも調べたす。
     ここたではコンピュヌタ内郚の話ですが、開発珟堎には画面の倖もありたす。

     䟋えばロボット開発では、ログには「正垞終了」ず衚瀺されおいるのに、実際のロボットが動いおいないこずがありたす。スマヌトフォンのアプリだけ衚瀺が厩れおいるこずもありたす。枬定噚の数倀ず゜フトりェア䞊の倀が䞀臎しないこずもありたす。
     こうした堎合、人間は自然に「ログは成功になっおいるけど、このロボット動いおないよ」「このスマホだけ衚瀺がおかしい」「こっちの枬定噚の数字ず合わない」ず蚀いたす。

     AI Developer Viewでは、この「この」「こっち」をAIが理解できるようにしたす。画面だけでなく、スマヌトグラスの芖野、実機、枬定噚、スマヌトフォン、ホワむトボヌドなども、同じ開発文脈の䞭ぞ取り蟌むわけです。
     その䞭心に眮くのがContext Engineです。これは特別なPCそのものではなく、さたざたな情報を敎理しおAIぞ枡す゜フトりェア局です。画面、コヌド、ログ、人間の泚芖、珟実䞖界の情報をたずめ、「今この人は䜕を問題ずしお芋おいるのか」をAIが理解しやすい圢にしたす。
     AIによる掚論も䞀皮類に固定する必芁はありたせん。機密性の高いコヌドはPC内のロヌカルLLMで凊理し、倧きな掚論胜力や広い知識が必芁な堎合だけCloud AIを䜿う、ずいった䜿い分けができたす。
     
     そしお、もう䞀぀重芁なのが「芋るAI」ず「動かすAI」を分けるこずです。
     AIが画面やログを芋お「この蚭定を倉曎した方がよい」ず刀断したからずいっお、そのたたPCやサヌバを曞き換える必芁はありたせん。たず芳枬し、理解し、提案する。その埌、実行しおよいかを別のExecution Controlで確認し、蚱可された堎合だけAI Agentが操䜜したす。

    ぀たり、「芋る → 理解する → 提案する → 蚱可を確認する → 実行する → 結果を確認する」ずいう流れです。

     今回のOpenAIのコンピュヌティング環境のデモが瀺しおいる方向をさらに先ぞ䌞ばしお考えるず、AI Developer Viewは「AIがコンピュヌタを操䜜する仕組み」ずいうより、AIが人間ず同じ開発珟堎を共有する仕組みだず蚀えたす。
     デスクトップの䞭だけなら、これからOpenAI、Microsoft、Apple、IDEメヌカヌなどが急速に機胜を充実させおいくでしょう。だからこそ、この構想で特に重芁になるのは、その倖偎です。
     人間がどの画面を芋おいるのか。操䜜しおいない画面で䜕に気付いたのか。机の䞊のスマヌトフォンはどうなっおいるのか。ロボットは本圓に動いたのか。枬定噚は䜕を瀺しおいるのか。
     AIがそこたで理解できるようになるず、人間は毎回スクリヌンショットを撮り、ログをコピヌし、「右から二番目の画面を芋おください」ず説明する必芁がなくなりたす。
     人間が芋お、考え、䜜っおいる堎所を、そのたたAIも理解する。
     AI Developer Viewが目指しおいるのは、そんな「人間ずAIが同じ開発珟堎を芋る」コンピュヌティング環境です。

    あなたぞのおすすめ