第5回　野生の暴れ馬LLMを飼いならす 〜その2〜

著作権侵害の問題

LLMを含む生成AIは、高度なデジタル技術であることから、従来からあった問題、社会的に見た時の不具合、を大きくします。ディープフェイクは、誤情報・偽情報の一種ですが、生成AI技術を悪用したものです。悪用を意図しない普通の使い方であっても、生成AIが引き起こす状況として、著作権侵害が社会的な問題になっています。著作権が付されたデータをLLMが学習していた場合、LLMが生成したコンテンツに、著作物が混入する可能性があります。著作権者のある作品の無断コピーや無断利用になり、いくつかの訴訟が起こされています。

丸暗記が招くリスク

生成コンテンツに学習データの一部が含まれることは、生成AIやLLMの基本的な仕組みと関わります。学習の際、頻繁に出現する文章や表現を“丸暗記”してしまうことがあるのです。固有名詞や専門用語を正確に覚えてくれるのは利点なのですが、著作権が付された文章の断片（内容を理解できるくらいの長さ）を丸暗記している場合もあり、生成コンテンツが著作権侵害とされる可能性が生じるのです。出力内容の監視やフィルタリングを行って、LLM利用ソフトウェアシステムとして対策を講じることが可能な場合もあります。しかし、完全に著作権侵害のリスクを回避するには、権利関係で問題が生じるような情報を学習データに使わないことです。LLM開発者に、著作権に関わる考え方（著作権ポリシー）の明示を義務つける方策が議論されています。

誰が品質に責任を持つのか？

LLMを活用したシステムで問題が発生した場合、その原因がどこにあるのかを突き止めるのは簡単ではありません。LLMそのものの学習データに起因する誤りなのか、利用者側のプロンプト設計ミスなのか、それともLLM出力後の処理（フィルタや修正）に不備があったのか、原因特定が難しいからです。品質保証の観点では、LLMの提供者と利用者の間で役割と責任範囲を明確に分けることが求められます。

FORとWITHの再利用マネジメント

一般に、ソフトウェア再利用では、部品を作る側（FOR）と使う側（WITH）を区別する考え方がよく用いられます。LLMはFOR側の巨大な機能部品であり、多くの利用者はそれをブラックボックスとして活用するWITH側に位置づけられます。この分離により、責任の所在が整理しやすくなり、複数のLLMを比較し選定する市場競争も活性化されます。つまり、サプライチェーン形成によるイノベーション推進といった効果が期待されるのです。品質課題もFORとWITHで異なりますし、利用者は自身の目的に合った良い部品を見極めて選ぶことが可能になります。

標準化とLLM選定の重要性

現在、多数のLLMが様々な企業から提供されていますが、API仕様や入出力形式、評価基準が統一されていないのが現状です。そのような状況で、特定ベンダーのLLMに依存したシステムを構築すると、他ベンダーへの移行が困難になる“ベンダーロックイン”の懸念が生じます。これを回避する方法としても、LLMの品質指標や仕様を標準化することが大切です。

AI部品表の構想

このような状況で提案されたのが、AIを含むソフトウェア部品に関して『AI部品表（AI BOM）』という管理手法です。LLMの訓練データや性能特性、既知の制約事項などを整理し、公表可能な範囲で共有することで、ユーザがより安全に部品を選択し運用できる仕組みを提供することです。今後の普及により、LLM活用の透明性と信頼性が高まることが期待されます。

次回の予告
中島先生の第6回ニュースレターでは、最近話題になっている「AIエージェント」について、LLMの高度化という観点からご紹介いただきます。