PCCC AI/機械学習技術部会 第5回ワークショップ「大規模言語モデルハンズオン」
| 日時 | 2023年10月23日（月）13：00～17：50 |
|---|---|
| 開催形式 | 現地会場とオンライン（Zoom）によるハイブリッド開催 |
| 現地会場 | 産業技術総合研究所 臨海副都心センター 東京都江東区青海2-3-26 〒135-0064 |
| 主催 | PCクラスタコンソーシアム AI・機械学習技術部会 |
| 共催 | 産業技術総合研究所、エヌビディア合同会社、ユビー株式会社 |
| 募集定員 | 20名（オンサイト＆オンライン）
※オンサイトが基本としてオンラインでも参加は可能 |
| ハンズオン用のシステム | ABCI 計算ノード (V) |
| ハンズオン支援 | 産総研職員、深層学習や自然言語処理のスペシャリスト及びGPUのエンジニア |
| 参加費 | 無料（審査により決定） |
| 応募締切 | 応募申込は締め切りました |
開催趣旨
昨今の生成AIの盛り上がりのなか、大規模言語モデル Large Language Model, LLMへの関心が高まっていますが、いざ学習をするにもLLMを扱うのに十分な設備や必要なモデルを即座に準備することは困難です。
そこで、AI/機械学習技術部会では、国立研究開発法人産業技術総合研究所様のご協力を得て、ABCIの設備を用いてLLMの学習ファインチューニングを実際に行って頂けるハンズオントレーニングを実施することになりました。
当日は、ABCIスタッフ 産総研職員 に加えて、深層学習や自然言語処理のスペシャリスト及びGPUのエンジニアがチューターとして参加し、サポートを行いますので、効果的にLLMの学習をご体験頂ける機会となっております。AI橋渡しクラウド AI Bridging Cloud Infrastructure は、産業技術総合研究所が構築・運用する、世界最大規模の人工知能処理向け計算インフラストラクチャです。
ワークショップ概要
受講者数
オンサイト＆オンライン：20名
- ※応募多数の場合は受付順の早い方を優先させて頂きます。
- ※学生の方はファカルティーメンバーと連名で参加してください。
想定受講者
既存言語モデルのファインチューニングを試したい方
- ※主催者が用意したサンプルプログラムをもとに言語モデルの ファインチューニングを体験いただきます。データセットについては、オープンなデータセットの使用を想定しています。
- ※サンプルプログラムはこちら
受講者の資格、対象について
本ハンズオンを受講するにあたっては、以下の知識、あるいは経験を持た れる方を前提としています。
- Linuxのご使用経験、コマンド操作等が行えること
- Pythonに関する基礎知識 Python を用いた基本的なプログラムが組めること
- HPC、スーパーコンピュータの使用経験があれば、なお望ましい
- ABCIの利用者もしくは、日本の法人等（大学法人等を含む）に所属し、日本に居住している方（後述参照）
- 日本語の理解、会話ができる方
※今回、ハンズオンは日本語でのみ実施させて頂きます。
ABCIアカウント
ハンズオンにおいては、ABCIアカウントが必要になります。ABCIアカウントを有していない場合は、以下の条件を満たすことを確認して、参加申し込みしてください。
- 日本の法人等（大学法人等を含む）に所属し、日本に居住している方
- 大学等からの参加申込の場合、ファカルティーメンバー教授、准教授、助教等が「利用責任者」として参加すること
- みなし輸出管理における特定類型に該当しない方
- 外国法人等や外国政府等と雇用契約等を締結している
- 外国政府等から年間所得の25％以上の利益を得ている又は得ることを約束している
- 日本における行動に関して外国政府等から具体的な指示や依頼を受けている
参加が認められた方は、ハンズオン用の利用グループ申請をご自身で行っていただく 必要があります。 詳細は後日参加者に通知します。
- ※利用グループ申請はこちら
- ※2023年10月10 日までに利用者登録を完了させてください。この日までに利用者登録の完了が確認できなかった場合、参加登録は自動的に取り消しとなり、 参加できなくなりますのでご了承ください 。
ワークショップ・アジェンダ
| 13：00 | 開場 |
|---|---|
| 13:10～13:15 |
開会挨拶 遠藤敏夫（東京工業大学／PCCC AI・機械学習技術部会長） |
| 13:15～13:45 | 自己紹介（一人1～2分） 参加者20名（オンライン込）を想定 |
| 13:45～16:15 |
ハンズオン 太田 満久（ユビー株式会社） |
| 16:45～17:45 | 参加者からの感想 |
| 17:45～17:50 |
閉会挨拶 愛甲浩史（NVIDIA／PCCC AI・機械学習技術部会 副部会長） |
| 17:50～18:30 | 懇親会場に移動 |
| 18:30 | 懇親会（自己負担による参加） |
準備スケジュール
| 2023年9月29日(金)17時 | 応募申込み締切 |
|---|---|
| 2023年10月2日(月)～4日(水) | 受講者審査及び決定、告知 |
| 2023年10月3日(火)～10日(火) | 受講者によるABCI利用グループ申請 |
| 2023年10月23日(月) | ワークショップ開催 |