|
|
FPGA 大規模言語モデル 本研究は軽量な大規模言語モデル(large language model: LLM)をプログラミング可能な半導体であるFPGA(field-programmable gate array)に実装し,ホームサービスロボットなどに搭載されるエッジ側のコンピュータシステム上で実行するシステムの構築を目指す.クラウドサービスを用いないシステムでLLMが実行可能になるため,家庭環境で動作するロボットなど極めてプライベートな情報を扱うシステムにおいて,情報の安全性を高めることが期待される.また,FPGAによる専用の計算システムを構築することで,高速かつ低消費電力な処理実現を目指す. |