騙されるＡＩ 「不可解なパートナー」人工知能との付き合い方

講談社＋α新書　８９４ー１Ｄ

講談社
宮田晋次　

• 価格: 990円（本体900円＋税）
• 発行年月: 2025年09月
• 判型: 新書
• ISBN: 9784065411711

内容情報

[BOOKデータベースより]

なぜか時々自信満々に間違える少し不器用な「相棒」。検索や文書・動画の制作はもちろん、悩み相談、雑談の相手にまでなってくれるけど…

第１章　ＡＩ脳と人間脳はどう違うか（ＡＩはなぜ地図を読むのが苦手なのか；人間のように“反省”するＡＩ　ほか）
第２章　騙されるＡＩ（人間とＡＩの非対称性―攻撃者はそこに罠を仕掛ける；ＡＩはなぜ長話で騙されるのか　ほか）
第３章　賢さの裏にあるリスク（確実に面接に進める履歴書の作り方―人材採用ＡＩエージェントを欺く罠；命令どおり従いました―ＡＩが最新シボレーを１ドルで“販売”した理由　ほか）
第４章　矛と盾の攻防戦（ＡＩが「異常」を検知する新技術―ニューロンの動きを見逃すな；ＡＩサービス構築でどのモデルを選ぶべきか　ほか）
第５章　ブラックボックス―ＡＩセキュリティの未来（世界はいまもＤｅｅｐＳｅｅｋの幻影を追っている―群雄割拠する推論型ＡＩの進化；ＡＩがあなたの信用度を判断する時代が来る？　ほか）

[日販商品データベースより]

ＡＩは地図を読むことが人間より苦手だという。
画像を読み解くことも、指示を読みとることも大得意なのに、人間のように画像と指示記号を組み合わせ、現場の状況にあわせて判断することが苦手なのだ。
実はＡＩには、ほかにも苦手なことはたくさんある。
長々と説明されると質問に対する警戒心が下がり、本来回答してはいけないことを回答してしまう。
顧客対応にあたったＡＩが、信じられないほどの安値で最新型の車を販売することに同意してしまったこともある。

ときにＡＩは哲学者のような深淵を感じさせる回答をすることもあるが、それはＡＩが「深く考えている」からではない。過去に人間が行ってきた無数の問答をかき集め、その中からもっとも適切と思われるものを選択して、それを組み合わせて「それっぽく」見せているだけなのだ。

ＡＩはあらゆるデータベースにアクセスして選択するというプロセスを経る。つまり、ＡＩはきわめて「信じやすい」という特徴を持つ。逆に言えば、ＡＩはきわめて「騙されやすい」のだ。
人間のように、この人、どうも怪しいなとか、いまひとつ信用できない、という警戒心は薄い。

近い将来、ＡＩエージェントが旅行の日程を考え、飛行機や列車、ホテルの予約をとり、行くべきところ、見るべきところを案内してくれるような時代が来る。
しかしそのＡＩエージェントが誰かに乗っ取られていたり、騙されていたら――その旅行は目も当てらない悲惨なものになるかもしれない。
ＡＩはなぜ騙されるのか。どんな弱点があるのか。
ＡＩとの共生が当たり前の社会になりつつあるいま、必読の一冊。
自らサイバーセキュリティの会社を率いる著者が教える、「ＡＩという人格」のリアル。