本セミナーはWebセミナーです

ツールはZoomを使います。URLは直前にメールにてご連絡いたします。

なお、「osslabo.com」「majisemi.com」からのメールが迷惑メールとならないよう、メールの設定をご確認ください。

高価なGPU投資を、どう成果につなげるか

生成AIの活用が本格化し、LLMの学習・推論を支えるAI基盤への投資が進んでいます。GPUクラウド事業者や、自社でAIを本格運用する企業では、多数のGPUを導入し、基盤を拡充する動きも見られます。

一方で、高性能GPUは高価です。投資を成果につなげるには、GPUを増やすだけでなく、導入した設備を安定して稼働させ、その性能を十分に引き出すことが求められます。

GPUの稼働率と推論性能を左右する、二つの課題

GPUが増えるほど、サーバーやネットワークを含めたクラスタ全体の運用は複雑になります。障害によってジョブが中断すれば、原因の特定や復旧、再実行に時間がかかり、GPUを十分に活用できません。

また、AI推論では、長い文章の処理や同時リクエストの増加に伴い、GPUメモリーが不足することがあります。GPUを増強しても、メモリーが制約となって期待したほど処理量が伸びない場合があります。

こうした課題に対応するには、クラスタの安定運用によって稼働率を高めることと、推論時のメモリー利用を最適化することの両方が必要です。

稼働率50％台から90％台へ。改善事例から学ぶ運用設計

本セミナーでは、高価なGPUへの投資効果を高めるために、AI基盤の設計・構築・運用で押さえるべきポイントを解説します。

クラスタの安定運用とパフォーマンス最適化を支援する「ClusterWareAI」に加え、AI推論時に処理を高速化するための一時データ「KVキャッシュ」を大容量メモリーへ移し、GPUメモリーの負荷を軽減する「MemoryAI KV Cache Server」をご紹介します。

さらに、GPUの稼働率を50％台から90％台へ引き上げた過去の実績をもとに、インフラの設計・構築・運用で何に着目し、どのような改善を積み重ねたのかを事例とともに解説します。GPUサーバー、ストレージ、ネットワークから監視・保守まで、基盤全体を見据えた運用の考え方をお伝えします。

AIファクトリーを設計から運用まで支える、ペンギンソリューションズ

ペンギンソリューションズは、長年にわたりAI/HPC基盤の設計・構築・運用に携わり、約10万GPUの展開・運用、40億時間を超えるGPU稼働を支えてきました。

この経験をもとに、複数ベンダーの製品・技術を組み合わせ、お客様の課題に応じたAI基盤を提案。設計・構築から導入後の監視・保守・運用まで伴走する、AIファクトリー向けフルスタックサービスを提供しています。

こんな方におすすめ

・AIインフラを構築・運用しており、稼働率やリソース効率を改善したい方

・障害によるジョブの中断や、AI推論時のメモリー不足に課題を感じている方

・クラウド利用から、自社環境でのLLM学習・推論への移行を検討している方

・GPUクラウドなど、AI基盤サービスを提供・検討している事業者の方

・AIインフラ全体のTCOや投資対効果を最適化したい方

プログラム

09:45～10:00　受付

10:00～10:05　オープニング（マジセミ）

10:05～10:45　【AI基盤の本番運用】高価なGPUを、ムダにしないAIインフラとは

10:45～11:00　質疑応答

主催

ペンギンソリューションズ株式会社（プライバシーポリシー）

協力

マジセミ株式会社（プライバシーポリシー）

※共催、協賛、協力、講演企業は将来的に追加、削除される可能性があります。

当日参加方法に関するお問合せ

zoom@osslabo.com

セミナー事務局

マジセミ株式会社（プライバシーポリシー）

※以下の方について、当社判断によりご参加をご遠慮いただく場合がございます。予めご了承ください。

・講演企業の競合となる商品・サービスを提供している企業、同業の企業、及びそのグループ企業・関連企業の方
・個人や個人事業主の方
・海外から参加される方
・日本に活動拠点が無い企業の方
・その他、弊社及び講演企業が不適切と判断した企業・個人の方

※申込が多数の場合、弊社抽選にてご参加をご遠慮いただく場合がございますので、予めご了承ください。

当社では、本フォームから取得する個人情報を下記の通り取扱います。
下記をご一読いただき、ご同意の上で送信してください。

１．個人情報の利用目的

本フォームからのお申込みにあたりご提供頂く個人情報は、以下の目的で利用いたします。
・主催、共催、協賛、協力するセミナーや展示会、イベントにおける参加者管理業務のため
・当社が主催、共催、協賛、協力する資料閲覧サービスや動画視聴サービスにおける資料閲覧・動画視聴サービスのご提供、並びに申込者管理のため
・メルマガ配信のため

２．個人情報保護管理者の氏名又は職名、所属及び連絡先

管理部 個人情報保護管理担当者
TEL: 03-6721-8548　e-mail: info@osslabo.com

３．個人情報の第三者提供について

当社は、本フォームから取得する個人情報を、本セミナーの主催・共催・協賛・協力・講演の各企業へ提供します。
(1)第三者に提供する目的：各社のサービス、製品、セミナー、イベントなどのご案内のため、各社のメルマガ登録のため
(2)提供する個人情報の項目：氏名、所属会社名、メールアドレス、電話番号、部署・役職、年代、アンケートへの回答内容
(3)提供の手段又は方法：暗号化したWebを経由して送信
(4)当該情報の提供を受ける者又は提供を受ける者の事業者の種類、及び属性：主催・共催・協賛・協力・講演企業
(5)個人情報の取扱いに関する契約がある場合はその旨：当社サービス利用約款による

４．個人情報の委託について

ご提供頂く個人情報は、利用目的の範囲内でその取扱いの一部又は全部を外部事業者に委託する場合がございます。その場合は、委託した個人情報の安全管理が図られるように、委託をする各社が定めた基準を満たす委託先を選定し、委託先に対して必要かつ適切な監督を行います。

５．開示等のご請求に関しまして

当社は、本お申込みフォームから取得する個人情報に関し、保有個人データ又は第三者提供記録に関するご本人又はその代理人からの利用目的の通知、開示、内容の訂正、追加又は削除、利用の停止、消去及び第三者への提供の停止等、並びに第三者提供記録の開示のご請求(以下、「開示等のご請求」といいます)に応じます。
開示等のご請求に関しましては、下記「個人情報の取扱いに関するお問合せ先 」までお申し出ください。
なお、提供先である主催・共催・協賛・協力・講演企業のご請求窓口等は、各社のプライバシーポリシーを御覧ください。

６．個人情報のご提供の任意性について

当社に個人情報をご提供頂くことは、ご本人様の任意です。ただし、必須項目に設定する情報をご提供頂けない場合、及びご入力頂いた内容が正確でない場合には、本セミナーにお申込みができない場合がございますのでご了承ください。

７．本人が容易に知覚できない方法による個人情報の取得について

当社が運営するウェブサイトでは、ユーザビリティ確保のためにCookie情報を取得しておりますが、当該情報を特定の個人を識別して利用することはございません。

８．個人情報の取扱いに関するお問合せ先

当社の個人情報の取扱いに関するお問合せ、苦情及び相談につきましては、以下にお申し出ください。
管理部 個人情報保護管理担当者
TEL: 03-6721-8548　e-mail: info@osslabo.com