ChatGPTはサイバーセキュリティに革命をもたらすことができるか

efks - Stock.adobe.com

機械学習 (ML) と並んで、人工知能 (AI) は、サイバー セキュリティの多くの課題に対する答えと、終末論的な優れた SF 映画や書籍が提示するディストピアの未来の両方を表します。

AI は、次世代テクノロジーやテクノロジーへのより高度な自動化されたアプローチを位置付ける方法として、多くのベンダーのスライド資料に組み込まれているだけでなく、現在では概念としてますます主流になりつつあります。 2022 年末、ChatGPT は、質問に答え、対話を行い、詳細な応答を提供するための会話型対話を可能にする OpenAI プラットフォームの一部である ChatGPT の立ち上げにより、まったく新しい方法で一般の人々の認知度を高めました。

美化された Google クエリからのこのステップアップにより、想像力が刺激され、実際に最前線で実際に原資料を読む煩わしさなしに小論文の解答を迅速に追跡することを生徒が意識し、教師も同様に採点を自動化したいと考えています。

助けを求めたり、漠然と複雑な質問に対する答えを求めたりする際に Web サイトのチャットボットのせいで苦しんだ人は、コンピュータと話すことでより良い結果が得られる可能性にも希望を見出しました。 疑いもなく、気象予測から宇宙ロケットに至るシステムに電力を供給する単なる謎のブラックボックスではなく、AI が個人としての日常的なテクノロジーとの関わり方に影響を与える可能性のある世界が開かれました。

必然的に、サイバーセキュリティへの潜在的な影響もすぐに、双方からの重要な会話の話題になります。 攻撃者にとっては、基本的な、多くの場合子供っぽいフィッシング テキストをより専門的な構造に変換する機会が即座に得られ、また、陥ったランサムウェアの罠から抜け出す方法を見つけようとしている複数の潜在的な被害者への関与を自動化する機会も得られました。

防御側にとって、これはコードの検証やフィッシング教育の改善などのプロセスに革命を起こすチャンスとなるでしょうか? これは非常に初期段階にあり、確かに多くの欠陥があります (特に、安全装置が組み込まれているにもかかわらず、システムを操作して悪意のある応答を生成する方法) が、AI がサイバー セキュリティ業界をどのように変えることができるかについての議論が広がりました。 。

新しいツールとして、ChatGPT は楽しく遊べます。Cloudflare のセキュア アクセス サービス エッジ (SASE) およびヨーロッパ、中東、アフリカ (EMEA) の電子メール セキュリティの責任者である Dave Barnett 氏は次のように述べています。システム – ChatGPL に不明瞭な技術概念を詩の形で説明してもらったことがある人なら誰でも、それがどれほど強力であるかを理解するでしょう。」

しかし、バーネット氏は、深刻な懸念が生じていることを強調しています。 「情報セキュリティ機関は、その影響を検討するのに少し時間がかかる必要があると思います。第一に、419 詐欺、配送料支払いの SMS、またはビジネスメールの侵害に騙されるとき、以前は非常に簡単に理解できました。人間にはすべてが偽物に見えた」と彼は言う。

「合成知能は私たちを騙すことができるでしょうか? また、データがどこに行くのか、コントローラーやプロセッサーが誰なのかなど、データ保護のリスクにも細心の注意を払う必要があります。人間は生まれつき好奇心旺盛なので、あたかもコンピューターに話しかけているかのように話し始めると、 「人間なので、私たちは共有すべきではない情報を共有する可能性が非常に高いです。最後に、これは IT におけるスキル不足に対処する方法になるでしょうか? OpenAI が長い間忘れられていた言語でコードを書くことさえできれば、おそらくそれは可能になるでしょう」とても助かりました。」

コフェンス社の首席脅威アドバイザー、ロニー・トカゾウスキー氏にとって、このプラットフォームで創造性を発揮する機会は楽しむべきものであり、「世界平和やUFOの暴露についてAIが生成したラップ歌詞を作るのは楽しくて生意気だが、AIを騙すことは可能だ」と述べた。あなたが探している情報を提供するために。」

あらゆるアプリケーションのビルドでは安全策を確保することが不可欠であり、単なるビルド後のセキュリティ ラッパーと比較して、AI 向けに設計されたセキュリティが常に優先されるオプションとなります。 「AI の意図は良いものであり、フィッシング シミュレーションを作成したくない」ため、これが開発者の目的であることは明らかですが、複数の方法 (フィッシングという単語を削除するなど) で質問しても、肯定的な応答は得られません。 しかし、クリエイティブであることは結果をもたらしました。

「ChatGPT は、保護を維持する方法や、支払い方法としてギフト カードを使用する前に確認する方法についての教育も返します」と彼は言います。

Tokazowski 氏は次のように結論付けています。「悪意のある目的で使用されるものは何でもあり得るため、すべては意図とその使用方法にかかっています。

「AI の悪影響についての楽しい考えをメールで共有するために、このメールを閉じるのを手伝ってくれるように AI にお願いするつもりです」と彼は言います。

また、ChatGPT の見解は次のとおりです。「私は個人的にその意見に同意しなければなりません。感情的にも人間としても、率直に言ってロボットに同意する気持ちがわかりません。」

提供された応答は良好ですが、一般的であり、人間のライターに期待されるような複雑さや微妙なニュアンスはほとんどありません。 これは重要な課題です。防御側にとっては鈍器ですが、攻撃側にとっては、多くの場合、それだけで十分です。 大規模な自動化が役立ち、シンプルな企業スタイルの文章は、誰もが受け取る退屈で一般的なパスワード リセットや配信メールになりすましたコンテンツを作成しようとする場合に簡単に役立ちます。

最終的には、AI は悪意のある人物やサイバー犯罪者によって武器として使用されることになるため、組織は AI から防御する方法を知る必要があるだけでなく、商用製品に組み込まれた AI や ML、またはテクノロジーの力の利用など、潜在的なメリットを活用する方法を知る必要があります。ユーザー教育、コードの保護、脅威の理解を深めるための ChatGPT などのツール。

しかし、このツールに企業が AI からどのように防御できるかを尋ねたところ、典型的な一般的な回答 (限定的な検索エンジンとしての使用を強調する) が返され、「AI を責任を持って使用する」という 1 つの重要な点が示されました。 それが私たち全員が覚えておくべき最大の教訓です。