生成AIの普及と偽情報の拡大について

2024.04.01

いつも弊社サービスをご利用いただき誠にありがとうございます。
ケイティケイソリューションズ浦辻です。

大手サービス提供者が生成AIをサービスの中に組み込む等、手軽にAI生成を利用できるようになった半面、偽情報が多く出回るようになりました。

偽情報が出回る背景と、対策について紹介いたします。

～今回ご案内する内容～
…………………………………………………………………………
【Topic1】偽情報が作成される理由
…………………………………………………………………………
【Topic2】生成AIの種類
…………………………………………………………………………
【Topic3】偽情報の傾向と対策
…………………………………………………………………………
参考になれば幸いです。

【Topic1】偽情報が作成される理由

以前に比べ、偽情報が大量に作成される理由として、以下が考えられます。

マネタイズの敷居が下がった
生成AI等のツールが普及し、コンテンツ作成が手軽になった
生成できる内容のバリエーションが増えた

1.は以前からマネタイズする手法の一例として以下があります。

広告収益型(アフィリエイト広告等)
クリック型(アクセス数)

上記手法による収益化には収益条件である一定数量を超える必要があり、敷居が高かったのですが、直近でさまざまなサービスで条件の緩和がされています。
以前に比べマネタイズがしやすくなった半面、収益化のために偽情報が作られることが多くなってきています。

2.は以前は専用のサイト等で作成する必要がありましたが、OSやオフィスソフト、検索エンジンに組み込む事例が増え、手軽に使える状況になってきています。

3.はテキスト以外で画像等を生成できるAIの登場し、視覚的なコンテンツを作ることができるようになりました。

【Topic2】生成AIの種類

生成AIは大きく分けて以下の種類があります。

種類	概要
テキスト生成	対話型でチャットのようにやり取りするものや、要約をしたり、プログラムのコード生成等に特化したものなど多岐にわたります。
画像生成	条件に合わせた画像を生成します。参考画像やポージング等を提示できるものがあります。
音声・音楽生成	条件に合わせて音声や音楽を生成します。人物の音声を学習させたり、既存音源から新たな音を生成するものもあります。
動画生成	条件やシナリオに合わせて動画を生成します。動画生成AIによっては上記3つを兼ね備えたものもあります。

上記を組み合わせることで「1つのコンテンツ」から複数に展開が可能です。

例えば、1つの事柄に関する記事を作成した場合

「テキスト生成」でブログ記事を作成
「画像生成」で生成したブログ記事に合わせた画像作成
ブログ記事を「テキスト生成」で要約
ブログ記事を元に「音声・音楽生成」でナレーションやBGMを生成
ブログ記事と画像とナレーション、BGMを元に動画を生成

上記のように複数を組み合わせると、同じコンテンツ加工し、ブログやSNS、動画サイト、等に投稿することで、複数媒体による収益化ができることになります。

【Topic3】傾向と対策

現在、生成AIの発達が進み、普及しだした段階のため、同じような内容の情報が複数作られ、過渡期のため規制等が追い付かず、収益化だけのために偽情報が生成される状況にあります。

情報に溢れる現代において、正しい情報を参照することが必要になります。

正しい情報を参照する際に以下の点を注意することで、偽情報に惑わされにくくなります。
また、発信する場合も以下の点について留意することも必要です。

情報の第1次発信源を調べる
- 個人が面白半分で作成されたデマ等や収益化のためだけの偽情報が拡散している可能性があるため、情報源を特定し、信頼できる機関が発表している情報であることを確認する
複数の情報発信源がある
- 1つの発信源だけでは信憑性に欠けるため、複数の発信源で別角度の情報があるか、複数で同じ内容を言及しているかを精査する
別の手段で確認をする
- メール等で記載されている連絡先の情報が偽物である可能性があるので、別の手段でその発信源が発信した内容であるかを確認する
法律やガイドライン、利用規約などに違反していないか確認をする
- 薬事法や景品表示法等で表現が制限されているものがあります。
- 法律で制定されていないが、規制省庁や業界団体などで設立されたガイドラインが提示されている場合があります。