中国、メタ社のＡＩ「ラマ」で規約違反の軍用ＡＩを開発…拡大するＡＩ悪用の脅威

https://news.yahoo.co.jp/articles/6eeb23a6257e1ee76df8499f4d04f9c14266e9d8

ロイターは中国人民解放軍（ＰＬＡ）核心研究機関の軍事科学院（ＡＭＳ）の研究員らがメタのオープンソースＡＩモデル「ラマ（Ｌｌａｍａ）」を活用して軍事用ＡＩモデル「ＣｈａｔＢＩＴ」を開発したと１日（現地時間）、明らかにした。研究員ららは６月に発表した論文で「ラマの初期バージョン『２－１３Ｂ』（媒介変数１３０億個）を活用して軍事分野の対話および質疑応答に最適化されたモデルを開発した」と明らかにした。ジェームスタウン財団のサニー・チョン副研究委員は「中国の軍専門家らがオープンソース大規模言語モデル（ＬＬＭ）を軍事的目的で研究・活用しようとしてきた実質的な証拠が出てきたのは今回が初めて」と述べた。

ロイターによると、論文の著者は１０万件の軍事対話記録を学習データとして活用した。今後モデルのアップグレードを通じて情報分析だけでなく戦略的計画樹立および意思決定などにも使用できるようにする計画だ。ただ、メタのジョエル・ピノーＡＩ研究副社長はロイターに「数兆個のトークンで訓練された多くのモデルと比較すると途方もなく不足しているようだ」とし「実際に機能するのか疑問を感じる」と話した。

ソフトウェアの原本であるソースコードを自由に使用・複製・配布・修正・活用できるよう開放するのがオープンソースの精神だったが、最近ではこの「開放性」という特性のために技術の誤用・乱用に対する懸念が強まる状況だ。反倫理的な犯罪行為をする組織やディープフェイク、ハッキングなどの犯罪にオープンソースＡＩが使用されている状況が表れているからだ。ＯｐｅｎＡＩやグーグルなどはソースコードを外部に公開せずモデルを使用できるＡＰＩ（アプリケーションインターフェース）に限り有料で提供している。

メタはＰＬＡが軍事的目的でのラマ使用がライセンス条件に背くという立場だ。メタは軍事と戦争、核産業または応用分野、スパイ活動などにはモデルの使用を禁止するという原則を明らかにしている。メタのモンゴメリー公共政策責任者はロイターに「中国軍のモデル使用は許可を受けておらず使用政策に背く」とし、誤用を防止するための措置を取ったと明らかにした。ただ、いかなる措置を取ったかは明らかにしなかった。

文明が爛熟すると平和的なところで一旦平衡するんだが、自分の事しか考えないクズなカルチャーがルール無用と暴れてのさばって、最期は全てを壊す…みたいに。