2023
12
月号
今月もオブジェクトの広場をどうぞお楽しみください。記事に対する感想は、ぜひ公式Facebookページのコメント欄までお願いいたします。（2023.12.20）
寝かせて使うソフトウェアコンテスト 本選レポート
オージス総研主催のソフトウェアアイデアコンテストOGIS-RI Software Challenge Award 「寝かせて使うソフトウェアコンテスト」の本選と最終審査を2023年11月15日（水）に当社東京オフィスで開催しました。本レポートでは受賞作品と本選の様子をご紹介します。
はじめての自然言語処理 第30回 Elyza 日本語 Llama2 指示応答モデルのファインチューニングと vLLM での推論
今回は Elyza の日本語 Llama 2 指示応答モデルをファインチューニングし、vLLM にデプロイして高速に推論してみます。70 億パラメータモデルならギリギリ Tesla T4 x 1 の構成でも float16 で動かせるかと思ったのですが、どうだったでしょうか。vLLM には OpenAI 互換の API インタフェースも備えているので、ついでに LangChain からも接続してみます。
1月号は、1月下旬頃の公開予定です。
From Editors
これまで健康診断で運動しろと言われても聞き流していたのですが、最近とあるきっかけでよく歩くようになったら、体力も筋力も付いた実感があり、運動って本当に健康に良いのかも！とようやく気付きました。きっかけは友達がやっていたいわゆる位置情報ゲーム。うまいこと作ってあるなぁと感心しながら歩ける機会を見つけては喜んで歩いています。（き）