分散学習：Hugging Face TransformersとAmazon SageMakerでBART/T5を要約タスク向けに学習
Hugging Face TransformersとAmazon SageMakerを使い、BART/T5モデルを分散学習で要約タスク向けに効率的…
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
最新ニュース
8436件
BigBirdのブロックスパースアテンションを理解する
BigBirdモデルが、Transformerの二次計算量を線形に削減するブロックスパースアテンションメカニズムを採…
N
GPT-3が次世代アプリを動かす
300以上のアプリがOpenAIのAPIを通じてGPT-3を活用し、高度なAI機能を提供しています。
Amazon SageMakerとHugging Faceのパートナーシップ
Amazon SageMakerとHugging Faceが提携し、機械学習モデルのデプロイを簡素化。
Google Cloud上でのサーバーレスTransformerパイプライン構築記
Google Cloud上でサーバーレスなHugging Face Transformerパイプラインを構築した事例が紹介されました。
Hugging Faceで🤗 Transformersを使って英語ASR向けにWav2Vec2をファインチューニング
Hugging Faceが提供するWav2Vec2モデルを英語の自動音声認識（ASR）タスク向けにファインチューニングする…
Hugging Face Reads, 2021年2月 - 長距離トランスフォーマー
Hugging Faceが長距離トランスフォーマーに関する重要な研究論文を解説しました。
N
人工ニューラルネットワークにおけるマルチモーダルニューロン
OpenAIのCLIPモデルで、同じ概念を異なる形式（文字、記号、概念）で認識するニューロンが発見されました。
高度なニューラルネットワークを構築する際のシンプルな考慮事項
Hugging Faceが、AI開発における倫理的・社会的な影響を考慮する重要性を強調しました。
Huggingface TransformersとRayによるRetrieval Augmented Generation（RAG）
Huggingface TransformersとRayを使って、RAGシステムを構築・スケーリングする方法が紹介されました。
PyTorch / XLA TPU上でのHugging Face
Hugging FaceがPyTorch/XLA TPU上で動作し、大規模モデルの学習を効率化。
N
大規模言語モデルの能力、限界、社会的影響を理解する
OpenAIが大規模言語モデル（LLM）の能力、限界、社会的影響について解説しました。