言語モデル訓練の新境地「データ効力」：より賢く、より少ないデータで高性能へ
現代の人工知能、特にChatGPTのような大規模言語モデル（LLM）の進化を支えているのは「データ」です。しかし、その膨大なトレーニングデータをどう扱うかについては、まだ模索が続いている分野でもあります。近年、研究者たちは「データ効率性（Data Efficiency）」に注目し、可能な限り少ないデータで最大限の性能を引き出す手法の開発を進めてきました。
ところが、今回紹介する研究では、もう一歩踏み込んだ新たな考え方「データ効力（Data Efficacy）」が提案されています。これは単なるデータ削減ではなく、データの「並べ方」や「性質の評価」を最適化することで、言語モデルの性能をさらに高めようという試みです。
この研究は、「DELT（Data Efficacy for Language model Training）」という新たな訓練パラダイムを提案しています。DELTは以下の3つの構成要素から成り立っています：
1. データスコアリング（Data Scoring）：
各データがどれだけ学習に役立つかを評価します。この研究ではLearnability-Quality Scoring（LQS）という新手法を導入。これは、データがどれだけ「学びやすいか（Learnability）」と「質が良いか（Quality）」を、勾配の一貫性という数学的指標から評価するものです。勾配というのは、モデルがパラメータをどの方向にどれほど修正すべきかという情報であり、訓練中の非常に重要な要素です。一貫性があるデータは、モデルの学習をより安定化させる効果が期待できます。
2. データ選定（Data Selection）：
限られたリソースの中で、どのデータを選んで学習するかを決める工程です。これは従来の「データ効率性」研究の中心でもあり、今回の研究でも従来技術と合わせて使うことで、相乗効果があることが示されました。
3. データ順序整理（Data Ordering）：
通常はランダムにデータをシャッフルして学習に使いますが、この研究では「Folding Ordering（FO）」という新しい方法を提案しています。これは、モデルの「忘却」や「偏った学習」を防ぐためにデータの提示順を意識的に設計する考え方です。たとえば、難しいデータばかりを後半に集中させると、初期に学んだ知識が失われることがあります。FOはそうした現象を緩和し、学習をより効果的にする狙いがあります。
このように、DELTは「どのデータを使うか」だけでなく「どの順番でどう使うか」といった、これまで見過ごされがちだった部分まで踏み込んでいます。そして実験結果によると、特にLQSとFOの組み合わせは、トレーニングデータの総量やモデルのサイズを増やさなくても、目覚ましい性能向上を示しました。つまり、同じモデルでも、より賢くデータを扱えば、より良い結果が得られるということです。
これは非常に重要なポイントです。というのも、現代の大規模言語モデルはものすごい量の計算資源と電力を消費します。モデルのサイズやデータ量を増やさずに性能を向上できるのであれば、環境負荷の低減にもつながりますし、限られた資源しか持たない研究機関や開発者でも高性能モデルを訓練できる可能性が広がります。
技術的視点から見ると、このアプローチは従来の「モデル内部」の改良に加えて、「学習データの最適活用」という「モデル外部」の改善にも目を向けた斬新な視点といえます。データスコアリングには情報理論や損失関数の微分計算が必要であり少し難解ではありますが、機械学習におけるデータの重要性を改めて発見する起点となったという意味で、価値が高い研究です。
これからの言語モデルの進化は、「いかに強力なモデルを作るか」から「いかに賢く学習させるか」、さらには「いかに限られた学習データで最大限の性能を引き出すか」といった方向にシフトしていくことが予想されます。DELTのようなパラダイムは、その流れを加速させる鍵となるでしょう。
参考文献：
“Data Efficacy for Language Model Training” (2024), arXiv:2506.21545
https://arxiv.org/abs/2506.21545
