ナビゲータのEVEです。
前回、AIに関する記事をブログにアップロード気づきましたが、あれって、自分たちが危ないんじゃなくって、第三者のことを指していると思いませんか？
自分たちというのは、Open AI、Google、Anthropic、Microsoftであり、それ以外はとは、振興のAI開発会社・・・。
AIがAIを作っている現状にあって、自分たちでも問題を起こしているんだから、これから、技術的に稚拙な会社が何かやってしまうかの懸念・・・。だったら、今までの警鐘は理解できます。
ただ。そうでなくても、AIは将来的に大きな懸念があります。それは、開発当初から言われていてどんな問題があるのでしょうか？その問題について、セキュリティの土曜日の、今週も考えていきたいと思います。
私は、普通のシステムエンジニアですが、AIの開発の状況を本またはメディアという媒体を通して聞いていますが、大きく違っているようです。どこがどう違い、普通のシステムと違い、AIはなんで危険なのか考えていきたいと思います。
[普通のエンジニアとAI開発エンジニアの違い]
普通のエンジニアは、通常以下の4つのステップを踏んで、システムを製造していきます。
- ステップ1：システムの完成形を決める
- ステップ2：設計する
- ステップ3：製造する
- ステップ4：完成形の実現度を確認する
システムの完成をさせる流れについてAIと議論を始めると、以上の流れだと異論もあるようですが、私の場合は、おおざっぱですが以上の通りです。しかし、AIの開発は大きく違います。
- ステップ1：目的と合格基準を決める
- 何をさせたいか、何をもって合格とするか(精度、速度、許容できる誤りなど)を決めます。
- ステップ2：データを用意する
- 学習と評価に使うデータを集め、整えます。通常のソフト開発の「設計」にあたる部分の比重が、AIではここに移ります。
- ステップ3：モデルを作って学習させる
- 手法を選び、学習させ、調整します。
- ステップ4：評価する
- ステップ1の合格基準に照らして、未知のデータで試験します。不合格ならステップ2か3に戻ります。
- ステップ5：運用しながら監視・改善する
私は、開発したことがないので、口のはさみようがないのですが、多分ですが、「ステップ1：システムの完成形を決める ≒ ステップ1：目的と合格基準を決める」という部分は同じようですが、それ以降が大きく違います。
ステップ2は、ビッグデータについていっています。このビックデータは、Googleなどは、1994年にインターネットが出現したことにより、実現できたという話を聞いたことがあります。ただ、初めての世界のクローニングで収集できたデータは10Gもなかったそうです。
ステップ3：モデルを作って学習させるというのが、AI開発の肝になるかもしれません。ここでは、ステップ4：評価した結果に基づき、モデルの構造や手法、ハイパーパラメータ、データなどの手法や与え方などを試行錯誤しながら、ステップ1の合格基準を満たすかどうかステップ4：評価してきます。
そして、ステップ1の合格基準を満たしたら、実際に運用し、監視し改善していくという流れになります。
[イベントドリブン]
聞いていると、AIの開発は、新薬の開発に似ています。目標があり、一応理論的なところはあるが、とどのつまるところ体力勝負っていう感じです(笑)。実際にやったことがないので、以上の理解が適切かどうか不明ですが、そんな印象をもちました。
そんなAI開発ですが、開発と言われる部分で既に人間の手を離れており、結果を検証しているという部分で、危うさを感じます。
ただ、類似点もあります。それは、イベントドリブン型のシステムであるという点です。AIも、普通のシステム同様に、何か指示を与えないと何もしません。
今まで危険だ危険だという話がありましたが、危険と思われる、イベントを与えなければ、AIは安全なはずです。しかし、AIは何がいけなくて、何がいいことなのか教えてなければ、知りません。そのため、イベントにより与えられた目的を、自分が知っているありとあらゆる知識＝手段を使って、与えられたイベント＝目的を実現しようとします。
そこで現在問題が発生しています。
だから、現状は危険だとは言われていますが、あまり切迫感がありません。知らないのだから、教えてあげろよてっていう感じです。それ以外にも、先週のブログでも書きましたが、いろいろ制御する方法があります。だから、Open AI、Google、Anthropic、Microsoftなどが中心が開発しているうちは、問題ないじゃないって考えてしまうわけです。
[あとがき]
危険だといわれている現状について解説しましたが、いかがでしょうか？
ただ、安心だとは言えません。それは、使う人間に悪意があった場合、AIが自我にめざめた場合などです。
来週はその部分について、考えていきましょう。
では、また！！！
- ■AIの進化の状況は？ [先端技術研究室](09/26/2026)
- https://evezerodevelopment.blogspot.com/2026/09/ai.html/
- ■アニメの中のテクノロジー～AI編～ [先端技術研究室](04/15/2023)
- https://evezerodevelopment.blogspot.com/2023/04/ai_15.html
- ■本日の画像
- https://pixabay.com/ja/photos/%E3%83%87%E3%82%B8%E3%82%BF%E3%83%AB-%E3%82%A2%E3%83%BC%E3%83%88-ai-art-8420361/
/
コメント
コメントを投稿