5分ニュース
【5分ニュース】OpenAIの推論チップ、公開モデル3種で電力効率と応答速度を報告
前提知識
AIの推論チップは、学習済みのAIが利用者の質問に答える計算を担う半導体である。OpenAIのJalapeño（同社が初めて設計したAIの推論チップ）は、チップだけでなくメモリ、通信網、ソフトウェア、機器群をまとめて設計した仕組みだ。OpenAIは、公開モデル3種で、比較システムより電力当たりの処理量が多く、利用者が要求する応答時間も短かったと報告した。
3行サマリー
- OpenAIは、GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tで、Jalapeñoの電力当たり処理量が比較システムの1.5〜1.9倍、要求から応答完了までの遅延が1.7〜3.6倍低かったと報告した。
- OpenAIは、入力を読むプロンプトを処理する段階と、回答を順に出す単語単位で生成する段階に合わせ、KVキャッシュ（回答生成中に使う過去の情報）を近くに保持して通信待ちを減らす設計だと説明した。
- AI開発支援ツールのCodexとGPT-Astraを使い、当初計画になかった公開型モデル3件を2か月以内に高性能化したという。選んだGPT-OSSの複数の専門処理を使い分ける仕組みでは、AI生成の実装が人の専門家が書いた実装より1.5〜1.8倍高速だったが、これはモデル全体の数値ではない。
狙った目的・効用
OpenAIは、同じ利用者体験の条件で、求められる遅延を守りながら単位電力で完了できる有用なAI処理量を測った。評価にはAIインフラを調べる企業のAIへの要求処理全体を測る公開評価手法を使い、各チップの公表電力定格で結果をそろえた。Jalapeñoは公称700Wで、試験した処理では持続電力が550W以下だったという。以前はチップと周辺システムを試験していた段階だったが、OpenAIは年末までに自社の計算基盤で展開を始める計画を示した。次世代の第2世代（開発が進む次の世代）と第3世代（構想を固める段階の世代）も並行して進めるとしている。OpenAIは、特に速い応答を目指す動作設定の推論を、従来より高い電力効率で実現できる可能性を示したとしている。
活用チェックポイント
- AI利用部門は、利用中のChatGPTや他のAIサービスで、短い質問と複数手順の業務依頼を分けて待ち時間を確認できるか？
- 情報システム部門は、社内文書の検索や外部システムとの連携が、AIの回答生成より待ち時間を増やしていないかを確認できるか？
- 調達部門は、AIサービスを比較する際に、同じ入力内容、同じ利用者数、同じ応答時間の条件で評価できるか？
- AIサービスの管理者は、利用が集中する時間帯に、利用者ごとの応答速度や利用制限を確認できる画面や記録を持っているか？
- セキュリティ部門は、応答速度を上げるための設定変更で、会話履歴や社内データの送信先、保存期間、閲覧権限が変わらないかを確認できるか？
出典
関連記事
-
今朝のAI活用ネタ
【5分ニュース】OpenClawが示す、チャットでAIに開発を頼む使い方
OpenClawは、WhatsAppなどのチャットから、コードを書くAIに指示を送るためのオープンソースソフトウェアである。OpenAIのコード作成を支援するAIやAnthropicのClaude コード作成を支援するAIを動かす実行環境として使う。開発者のPeter Steinbergerは、この種のAIの価値はプログラマーではない人をどこまで助けられるかにあると述べた。
-
今朝のAI活用ネタ
【5分ニュース】AIエージェントの権限管理を見直す動き
AIエージェントは、社内の情報を探すだけでなく、与えられた権限で業務の操作まで行うAIである。メールを読み、データベースを照会し、システム同士をつなぐ仕組みを呼び出せるため、権限と承認の管理が欠かせない。Google Cloudは、セキュリティを開発段階から組み込む方法と、AIエージェントをまとめて監督する仕組みを示した。
-
今朝のAI活用ネタ
【5分ニュース】Slackが会話を読んで開発を進めるAI機能を発表
開発チームのチャットに参加し、会話の背景を読んで作業するAI機能が広がり始めている。Salesforce傘下のSlack社は、チャットサービスSlackの新機能として、AIエージェント（指示を受けて作業を進めるAI）に開発を担わせるSlack Codeを発表した。Slack Codeは、プロジェクトリーダー、デザイナー、プログラマの会話を作業の背景情報として取り込み、コード作成を行う機能である。
-
今朝のAI活用ネタ
【5分ニュース】複数のAIエージェントは役割と引き継ぎを設計して動かす
複数のAIエージェントを同じ業務やコードに使う場合は、個々の性能だけでなく協調の設計が要る。グラフ・エンジニアリングとは、AIエージェントの担当、作業の分け方、引き継ぎ、確認、人が承認する地点を構成として決める考え方である。記事は、協調には共有の機械可読な作業記録（AIが読み書きできる共通の作業台帳）が必要だと述べている。