5分ニュース
【5分ニュース】Google CloudがAI推論の接続構成を2種類提示
前提知識
Google Cloudは、AIモデルへの社内接続を設計するため、GKE専用と複数の実行先向けの2構成を示した。単一の実行基盤か、社内外にまたがる基盤かで入口と振り分け方を分ける考え方である。両構成では、社内ネットワーク内に入口を置き、認証と入出力検査を加えられる。
3行サマリー
- Google Cloudは、AI推論用にGKE専用と複数基盤向けの2構成を示した。
- GKE専用ではGKE 推論 Gatewayがモデル別に推論先を選ぶ。
- 複数基盤ではモデル名を取り出し、対応する実行先へ振り分ける。
狙った目的・効用
Google Cloudは、AI推論モデルを社内から呼ぶための接続構成を2種類示した。Google Kubernetes Engine(GKE、コンテナを動かす管理サービス)だけを使う場合と、複数の実行基盤をまたぐ場合で分けている。 情シスは、モデルを増やす前に実行先の種類を整理できる。GKE専用ならGKE 推論 Gateway(モデルへの要求を振り分ける入口)を使い、複数基盤なら負荷分散機能がモデルごとに接続先を選ぶ。 記事は設計の概要を示しており、実装手順の詳細は別文書を参照する必要がある。提供条件や料金、性能の数値は今回の情報では示されていない。
出典
関連記事
-
今朝のAI活用ネタ
【5分ニュース】GoogleがGeminiを企業向けの業務実行AIへ広げる
GoogleはGeminiを、質問に答えるだけでなく業務を計画して実行するAIへ広げる。まず企業向けに展開し、社内のデータや業務システムとつなぐ方針だ。提供日、料金、地域の詳細は今回の情報では示されていない。
-
今朝のAI活用ネタ
【5分ニュース】HPEがAIエージェント時代のIT運用モデルを示す
HPEは、AIエージェントが人と協働する企業運営モデルをAgentic Enterpriseと呼ぶ。従来の人中心の定型業務から、AIが状況に応じて判断し実行する運用への移行を示した。運用の自動化を広げる前に、権限と費用、監視の設計をそろえる必要がある。
-
今朝のAI活用ネタ
【5分ニュース】Anthropicが大量処理向けClaude Haiku 5.5を公開
対話型AIを提供するAnthropicが、小型AIモデルのClaude Haiku 5.5(大量の定型処理を担うモデル)を公開した。要約や分類を多く回す業務では、用途ごとに小型モデルを使い分ける判断が要る。Claude Haiku 4.5から刷新し、コストと性能の優先度を選べる機能を加えた。
-
今朝のAI活用ネタ
【5分ニュース】AnthropicがClaudeの規約を改定し虐待・追跡・武器利用を明確化
対話型AIを提供するAnthropicが、Claude(文章作成や質問対応を行う生成AI)の利用規約を改定する。目的のない継続的な虐待を新たに禁じ、追跡や武器関連の禁止範囲も明確にする。健康や雇用に影響する用途では、人が回答を確認し、AI利用を知らせる条件を維持する。