ローカル環境で実行可能な軽量大規模言語モデルのFPGA実装とロボットへの応用

Ministries and Agencies Related Grants

FPGA　大規模言語モデル　本研究は軽量な大規模言語モデル（large language model: LLM）をプログラミング可能な半導体であるFPGA(field-programmable gate array)に実装し，ホームサービスロボットなどに搭載されるエッジ側のコンピュータシステム上で実行するシステムの構築を目指す．クラウドサービスを用いないシステムでLLMが実行可能になるため，家庭環境で動作するロボットなど極めてプライベートな情報を扱うシステムにおいて，情報の安全性を高めることが期待される．また，FPGAによる専用の計算システムを構築することで，高速かつ低消費電力な処理実現を目指す．

24K23900