(株)
【発表】
— Preferred Networks (@PreferredNetJP) September 28, 2023PFNが開発した大規模言語モデル(LLM) PLaMo™︎ー13Bをオープンソースで公開しました。また、PLaMoの知見をもとにマルチモーダル基盤モデルを開発・ 提供する新子会社Preferred Elementsを11月に設立します。10月の #CEATEC2023 ではLLMを使ったデモも出展します。https:// t. co/ QkS6AmvnkC
PLaMo-13Bは、現在公開されている同規模のパラメータ数の事前学習済み言語モデルと比べ、大規模言語モデルのベンチマーク評価
PLaMo-13Bの開発にあたり、同社では学習に使用可能なオープンデータセットを独自に収集・
同社では今後、PLaMo-13Bをもとにした事前学習モデルや指示学習を行ったモデルについても公開を予定している。