エッジ生成AIでAI開発費がゼロに、IdeinがOpenAIの「CLIP」活用アプリを発表：人工知能ニュース（2/2 ページ）

[朴尚洙，MONOist]

広がるエッジAIでの生成AIモデル活用、AIエージェントの応答時間短縮にも

　中村氏は「エッジAIの課題となっていたのがPoCからの大規模実装につなげるところであり、Actcastはそれを支える技術／インフラとして採用されている。しかしながら、大規模実装の前段階であるPoCについても、AIのモデルやアプリの開発にはお金と時間がかかるのが悩みの種になっている。PoCでプロジェクトが頓挫することも多い」と説明する。

AIを利用するプロジェクトでよく起こる問題［クリックで拡大］ 出所：Idein

　そこでIdeinが2024年5月に発表したのが、ActcastとマルチモーダルLLM（マルチモーダル大規模言語モデル）を連携させた画像解析ソリューション「LLM App on Actcast」である。OpenAIのChatGPTのAPIを用いて、エッジデバイスで撮影した画像に対する推論を行うアプリで、プロンプトエンジニアリングにより疑似的なアプリ設計を行える。PoCにおけるAIモデルやアプリといったソフトウェア開発をプロンプトエンジニアリングで代替できるので、PoCで最も重要なビジネス価値の検証を最低限の手間とコストで行えるようになる。

「LLM App on Actcast」の概要［クリックで拡大］ 出所：Idein

　ただし、LLM App on Actcastは、ChatGPTなどのクラウド上で運用するLLMを利用することになる。つまり、高額なクラウドLLMのAPI利用料がかかるため無駄な解析ができないという制約があり、クラウド上に画像データなどを直接送信しないエッジAIの利点であるプライバシー保護の実現も難しくなる。なお、LLM App on ActcastはエッジAIを用いることで、コストの最適化とプライバシー保護を可能にしている。

「LLM App on Actcast」はエッジAIでコストやプライバシーなどの課題に対応［クリックで拡大］ 出所：Idein

　今回発表したCLIP on Actcastは、生成AI処理を全てデバイス上で完結させることを目指す中での重要なマイルストーンに位置付けられている。今後も、エッジデバイス上でLLMなどの生成AIモデルを効率的に実行し、クラウド依存を減らすための研究開発を進めていく方針である。

アイシンの大須賀晋氏

　会見では、Ideinと資本提携するとともに、ai castの開発元にもなっているアイシンから、先進開発部 サイバネティクス開発室 室長の大須賀晋氏が登壇した。

　大須賀氏は、Ideinとの協業によるクルマへのAI実装の事例として、トヨタ自動車向けに2021年から展開しているドライバモニタシステムや、2025年に市販車に搭載予定の自動駐車システム、2026年以降の実用化を目指す低速自動運転システムなどについて紹介した。

　また、生成AIブーム以前から開発を続けているマルチモーダル対話AIエージェント「Saya」については、スギ薬局での来店客対応や、清水建設の名古屋支店での受付対応などで実証が進んでいる。「人間が対応する場合の応答時間は0.2秒程度であり、スギ薬局の事例はそれに近い0.数秒のレベルを実現できている。しかし、清水建設の名古屋支店の場合は、ChatGPTなどの生成AIモデルを3つほど連携させている関係もあり応答時間が3秒程度と長くなっている。そこで、パラメーター数が17億〜30億程度の小型LLMをエッジAIに組み込むことで応答時間を高速化する取り組みを進めているところだ」と述べている。

清水建設の受付AIシステムを務めるマルチモーダル対話AIエージェント「Saya」［クリックで拡大］ 出所：アイシン

清水建設の受付AIシステムでは建物OSである「DX Core」と連携している［クリックで拡大］ 出所：アイシン

⇒その他の「人工知能ニュース」の記事はこちら