IT時事ネタキーワード「これが気になる!」(第122回)対話型AIの危機?サイバー攻撃悪用のリスクも

IT・テクノロジー 時事潮流

公開日:2023.05.22

  • PDF PDF
  • ボタンをクリックすることで、Myクリップ一覧ページに追加・削除できます。追加した記事は、「Myクリップ」メニューからいつでも読むことができます。なお、ご利用にはBiz Clipに会員登録(無料)してログインする必要があります。

 今やテレビのバラエティー番組で「〇〇GPT」などとコントのネタにされるほど皆に周知され、ニュースなどで取り上げられない日はない「ChatGPT」。ChatGPTは、ユーザーが入力したテキストに対し、人間のように自然に答える対話型AIの1つだ。昨年11月に公開されるや、高精度な回答が話題となり、飛躍的にユーザーが増えた。

Googleや研究者らがAIを攻撃する手法を提案した研究を報告

 多くの人が、ChatGPTの「Try ChatGPT」や、後継のGPT-4を使ったMicrosoftの「Bing AI」で質問を入力したことがあるだろう。AIは、しばしば「作り話」をする場合もあれど、自然で高精度な回答にはなかなか目を見張る。

 一方、ChatGPTをはじめとする対話型AIに対して、さまざまなリスクに警鐘を鳴らす声もある。2月には、米Google、ETH Zurich(チューリッヒ工科大学)、NVIDIAなどに所属する研究者らが発表した論文「Poisoning Web-Scale Training Datasets is Practical」が話題となった。学習データを攻撃者が改ざんすることにより、悪意ある情報を対話型AIに送り込む攻撃の可能性の実証に成功したという。

 そんな中、AI研究の第一人者で「AIのゴッドファーザー」とも呼ばれるジェフリー・ヒントン氏は、5月1日に10年間在籍したGoogleを退職した。その主な理由はGoogleに影響を与えることなくAIの危険性について話すため、とツイートしている。彼はまた、機械は予測していたよりもずっと賢くなる方向に進んでおり、機械が引き起こすかもしれない結果に恐怖を感じている、とインタビューで答えている。

AIがサイバー攻撃者に悪用される可能性も。学習データを改ざん、情報引き抜き、など…

続きを読むにはログインが必要です

\ かんたん入力で登録完了 /

会員登録3つのメリット!!

  • 最新記事をメールでお知らせ!
  • すべての記事を最後まで読める!
  • ビジネステンプレートを無料ダウンロード!

執筆=青木 恵美

長野県松本市在住。独学で始めたDTPがきっかけでIT関連の執筆を始める。書籍は「Windows手取り足取りトラブル解決」「自分流ブログ入門」など数十冊。Web媒体はBiz Clip、日経XTECHなど。XTECHの「信州ITラプソディ」は、10年以上にわたって長期連載された人気コラム(バックナンバーあり)。紙媒体は日経PC21、日経パソコン、日本経済新聞など。現在は、日経PC21「青木恵美のIT生活羅針盤」、Biz Clip「IT時事ネタキーワード これが気になる!」「知って得する!話題のトレンドワード」を好評連載中。

【TP】

あわせて読みたい記事

  • IT時事ネタキーワード「これが気になる!」(第121回)

    Microsoft、Excelなどに対話AI搭載を発表。話題の対話型AIとは

    IT・テクノロジー 時事潮流

    2023.04.26

  • IT時事ネタキーワード「これが気になる!」(第119回)

    注目集まる家庭用実用ロボット。AIの進化でより実用的な段階に

    IT・テクノロジー 時事潮流

    2023.03.31

  • ビジネスシーンで役立つ極意(第3回)

    セキュリティのプロが指摘する企業がとるべき対策

    リスクマネジメント

    2023.02.21

「IT・テクノロジー」人気記事ランキング

連載バックナンバー

IT時事ネタキーワード「これが気になる!」

オンラインセミナー動画

  • 新着記事

配信日時

2024年7月25日(木)①14時00分〜15時00分 ②18時00分~19時00分

DX・業務効率化関連

郵便料金の値上げに備える!】効果的な経理業務のデジタル化とは

配信期間

2024年6月27日(木)~2024年9月10日(火)

法改正関連

まだ間に合う!2024年問題の対策のポイント