AIを使う人間に悪意があった時 [セキュリティ研究室]

 こんにちは!
 ナビゲータのEVEです。

 午前中で、トランザクションテーブルの出力先を、マスタテーブルとは別のテーブルに出力する仕様に変更できました。
 同プログラミングは、昨日もやったのですが、やってみたちょっと、完成したプログラミングが複雑になってしまった。
 やり方としては、マスタデータベース、トランザクションデータベースへの接続用にそれぞれインスタンスを作成し、都度使い分けるというやり方なのですが、作っていて混乱する・・・。そこで、作ってからなのですが、Geminiにやり方を聞いたところ、テーブル名前に、データベース名をつければ、1つのインスタンスで、マスタデータベース、トランザクションデータベースにそれぞれにアクセスできるそうです。それは、DMLに限らず、DDLも同様だそうです。
 それを聞いて本日なのですが、一昨日の仕様に戻した上で、トランザクションテーブルの追加、または削除するタイミングで、データベース名をつけるという機能を追加しています。
 文章で書くと簡単ななだけれど、いろいろな機能と関連していて、午前中いっぱい時間がかかってしまいました。
 そして、先ほど昼食をとって、デスクに向かいブログを書いています。
 っという土曜日ですが、土曜日はセキュリティの日です。今週は、先週書く予定でした、AIの危険性の続きについて書いていきましょう。

[AIを使う人間に悪意があった時]

 では、本日は、AIを使う人間に悪意があった場合について、どんなことが起きるのか書いていきましょう?
 一番わかりやすいのは、現在多数発生しているセキュリティインシデントですよね?
 現在、多くの企業がネットワーク経由で攻撃を受け、多くの情報が流出しています。その一因に、AIが絡んでいると言われていますし、その証拠も近頃検出されました。
 今まで、時間と手間をかけて各企業の脆弱性を探していたのですが、AIエージェントなどを使うことにより、簡単に見つけることができるようになりました。
 簡単というか、AIエージェントについて、つい最近解説をしましたが、AIエージェントは、ルーチンワークに最適なRPA(Robotic Process Automation:ロボティック・プロセス・オートメーション)です。言い方は古いですが、一番イメージしやすい言葉ではないでしょうか?
 その他には、どんなことが考えられるでしょうか?

  1. AI詐欺・なりすまし → 本人そっくりの文章・声・顔・動画を生成
  2. AIフィッシング/標的型詐欺 → 相手に合わせた自然なメール・SMS・Webサイトを大量生成
  3. ディープフェイク詐欺 → CEO・家族・警察官・著名人などの顔や声を偽造
  4. AIを使った投資・ロマンス詐欺 → AIチャットボットで長期間にわたり被害者を信用させる
  5. ランサムウェア・サイバー攻撃の高度化 → 攻撃コード、偵察、標的選定、回避などをAIで効率化
  6. 性的脅迫・ディープフェイクポルノ → 本人の同意なく偽の性的画像・動画を作り、脅迫
  7. 偽造身分証・合成IDによる犯罪 → AI画像生成などで偽の顔・身分証・プロフィールを作成
  8. 偽情報・世論操作 → 大量の偽記事、偽SNSアカウント、動画、コメントを生成
  9. 児童性的虐待コンテンツ(CSAM)の生成・拡散 → AIによる違法画像・動画の生成、加工、拡散
  10. 証拠・記録の偽造 → 音声・動画・画像・文書などを改変し、捜査・裁判等を欺く

 以上は利潤をもとめて行われる犯罪ですが、政治的・軍事的な目的ではどうでしょうか?

  1. 大規模災害の直後 → 通信・金融・行政・物流への攻撃+偽情報
  2. 戦争・軍事的緊張の高まり → 電力・通信・衛星・政府への複合攻撃
  3. 選挙・国民投票の直前 → 偽情報・ディープフェイク・行政システム攻撃
  4. 金融危機・市場急変時 → 銀行・証券・決済への攻撃+偽情報
  5. 大型イベント開催時 → 交通・通信・警備への攻撃
  6. 政治的・社会的混乱時 → 政府・警察・メディアへの攻撃
  7. 重要インフラの障害発生時 → 二次攻撃・偽情報
  8. 年末年始・連休・夜間 → 金融・企業・行政への攻撃
  9. 大規模なシステム更新時 → サプライチェーン・ITシステムへの侵入
  10. 政権交代・企業再編などの過渡期 → 政府・企業への侵入・情報窃取

 加えて、近頃、フィジカルAIのオリンピックがありましたが、フィジカルAIを使った犯罪も気になります。どんなモノがあるでしょうか?

  1. 重要施設への侵入・偵察 → 攻撃準備・諜報
  2. インフラ・産業設備への物理的妨害 → 社会機能の停止
  3. ロボット/ドローンの群体利用 → 同時多発的な混乱
  4. 警備・治安システムへの攪乱 → 防御能力の低下
  5. 偽情報・ディープフェイクとの複合攻撃 → パニック・政治的混乱
  6. 物流・交通システムへの妨害 → 社会活動の停止
  7. 要人・施設の監視/追跡 → 攻撃準備・威嚇
  8. 企業・政府ネットワークへの侵入の踏み台 → 情報窃取・妨害
  9. 人間の心理を利用した威嚇 → 恐怖の拡散
  10. ロボットを使った宣伝・プロパガンダ → 支持獲得・注目獲得

 恐ろしいですね・・・。公共の利益に使えば、国、企業、人の経済活動に有益ですが、使う人により、未来のイメージが大きく変わってきます。

[あとがき]

 ちょっと、いろいろと恐ろしい話をしましたが、安心材料を提供しましょう?
 私は、システムエンジニアと同時に、セキュリティエンジニアです。その立場から発言をさせてもらうと、適切なセキュリティ対策をしている企業は、そんな簡単に攻撃はうけません。それがわかりやすいビデオが以下YouTubeビデオ、「ハッカーホイホイ作ったら48時間で1万回来た」です。実情と合っているかどうかは、マクロ的観点からは実は不明なのですが、このビデオの内容は私の認識とほぼ同じです。
 現在、情報漏洩とか騒がれている企業は、適切なセキュリティが施されていないと私は考えています。
 但し、すべての企業が適切なセキュリティを施したとき、ハッカーたちは、セキュリティエンジニアも知らないようなセキュリティホールを見つけ、攻撃するような事態になるのだと思います。
 では、また!

追伸・・・。
なんて、ブログを書いている最中に、YouTubeにアクセスし、その中の広告をクリックしたらフィッシングサイトでした。念のため、現在、ウイルス対策ソフトで、ウイルスチェックをしています。なんで、YouTubeの広告にフィッシングサイトの広告が含まれているんだよ!何も信じられねぇ~!

■ハッカーホイホイ作ったら48時間で1万回来た
https://www.youtube.com/watch?v=a77m_WSa93A&t=504s
■本日の画像
https://pixabay.com/ja/photos/%E3%83%88%E3%83%AC%E3%83%BC%E3%82%B9-%E5%9B%9E%E8%B7%AF%E5%9F%BA%E6%9D%BF-%E3%83%86%E3%82%AF%E3%83%8E%E3%83%AD%E3%82%B8%E3%83%BC-3157431/

コメント