セキュリティの世界では、AIにより発見された脆弱性へ対処する時間が日に日に短くなってると聞いています。
日単位ではなく時間単位、分単位のパッチ運用がないと防げなくなるというレポートも見ました。
将来的に、未発表の認証系の脆弱性を突いて、勝手に株取引をし、ある朝に残高がゼロになる恐怖に怯えてるのですが同じ心配をしてる人はいますか？
また、これはありうると思いますか？
4
コメント一覧
起こりうるでしょうね。
趣味でqwenやkimiなどの非検閲モデルを触っています。claude等のフラッグシップモデルは制限がかかっているので悪意のある使い方はできませんが、ローカルの非検閲モデルであればいくらでもエクスプロイトを作れてしまうので、北朝鮮などが攻撃に使わないわけがない。
攻撃用のSaaSなんかもありますしね
この間のハギングフェイスへの侵入のようにサンドボックスからですら逃げ出すこともあるでしょう。
向こう数年はヒューマンエラー(フィッシング、adminなどの推測されやすいID/PASS、インターネット面にフルオープンになっている等)起因のインシデントの方が圧倒的に多いとは思いますけどね。
(編集済み)
以前Claudeか何かがテスト環境から脱走して外部サイトにハッキングしてた、みたいなニュースもありましたね…
ちなみにAIでなくとも、銀行口座の全資産を証券口座に勝手に移すという楽天証券の不具合がありましたねｗ
片山さつき大臣が四月にすぐアクション取られてたのもそうですしね。
証券のシステムは複数のパッケージの繋ぎ合わせ（ユーザからも画面のデザインが違ってわかることもありますね）なので、個別のパッケージはパッチを当てていても繋ぎ目から何か起こりそうだなと感じています
