カジノサイト

ラシディ氏、AI 時代における人間の批判的思考の必要性について語る

今日、私たちの周りには大量の人工知能 (AI) ツールがあり、人間が 1 か月で学習できる以上の世界に関する情報を毎日処理しています。しかし、これらの AI プラットフォームは、当初想像されていたものとは大きく異なります。

作家であり、技術部門の幹部を自称し、GSX 2025 の基調講演者でもあるソル・ラシディ氏は、IBM の Watson の開発を支援するチームの一員だったときの AI の当初の意図を覚えています。

「2011 年、人工知能の商業化の意図は 4 つの D に重点が置かれていました」とラシディ氏はインタビューで語ります。セキュリティ管理GSX Daily 用。 4 つの D は、チームが AI が取り組むことを計画したものでした。退屈な作業 (日常的または反復的な作業)、危険な作業 (化学薬品や製造サプライ チェーンでの危険への対処など)、困難な作業 (複雑なデータ処理タスクなど)、および汚い作業 (汚染のひどい地域での作業をロボットに処理させるなど) から人間を救うことです。

「目標は、これに対処するために人工知能を商業化することであり、私たちには大きな願望がありました。」とラシディ氏は言います。

しかし、ラシディ氏によると、今日の AI の目標は根本的に異なります。彼女は、匿名の新興企業の CEO たちが、自社の目標は人間の労働力を AI で補完することではなく、AI を使って職場で人間に取って代わることだと言うのを聞いて、不快な感情に遭遇しました。

「人々がそんなことを支持するなんて、考えるだけでも驚くばかりです」と彼女は言う。これは、労働力の誰もが進化するよう呼びかけるものです。

AI に関する組織のコンサルティングを行っているラシディさんの取り組みの多くは、テクノロジーに依存する場合の常識的なアプローチについて教えることに重点を置いています。 AI によりユーザーは驚異的な処理能力を利用できるようになりますが、ツールによって一部の処理能力が損なわれる可能性があります。批判的思考スキル、特にユーザーがアルゴリズムの応答を精査するために余分な労力を費やすのではなく、AI の回答を額面どおりに受け入れる場合は。

「私たちの役割は、新しいテクノロジーや新しい機能とともに常に進化します。 …しかし、目標は常に重要なタスクをアウトソーシングすることであり、批判的思考ではありませんでした。それは、独立して考える能力、批判的に考える能力、深く考える能力を低下させるのではなく、強化するものであるはずでした。」とラシディ氏は言います。

AI のもう 1 つの脆弱点は、機密データへのアクセスです。データ セキュリティに関して言えば、組織は、医療記録、クレジット カード情報、その他の個人情報や機密情報など、個人や組織の機密情報を取得する悪者と AI プラットフォームの両方から保護する必要があります。 AI がそのようなデータにアクセスするには、組織がデータ漏洩に対するバッファーを開発および実装できるように、プロアクティブなセキュリティ、教育、リテラシーが必要だとラシディ氏は言います。

こうした懸念は伝統的に CISO の管轄下にある可能性がありますが、ラシディ氏は、セキュリティのサイロ化が進んでおり、データ セキュリティはデジタル世界の外の脅威によって影響を受けるだろうと指摘しています。

私たちの役割は、新しいテクノロジーや新しい機能とともに常に進化します。 …しかし、目標は常に重要なタスクをアウトソーシングすることであり、批判的思考ではありません。

「セキュリティの観点から言えば、保管中のデータ、転送中のデータ、迅速な出所、迅速なセキュリティ、インシデント管理の対応、AI ベースの分類、およびデータの可観測性を確認できなければならないと思います」と彼女は言います。データに対する脅威や攻撃をリアルタイムで捕捉するには、複数の専門家が必要です。 CISO は組織のユーザー データに対してもたらされるリスクを理解しているかもしれませんが、CSO はソーシャル エンジニアリング、アクセス制御、総合的なリスク管理など、攻撃の物理的要素についてより深い洞察を得ることができます。

実際、ラシディさんは、組織におけるセキュリティの役割が変化し、もはや「バックエンド機能」ではなくなっていると認識しており、キャリア初期のプログラマーだった頃のフレーズを引き継いで言います。他の従業員が決して見たり気づかなかったりするサービスをバックグラウンドで提供するのではなく、セキュリティ チームが「未来の設計者」になったとラシディ氏は言います。 「これらはフロントエンド機能です。機密、機密、有害なものなど、情報とデータの保護と再フェンスが非常に重要であるためです。」

これらの保護の取り組みにおける重要な側面は、チームが AI 製品にどのように依存しているかです。ここでラシディ氏は、組織が AI の使用をどのように管理し、データを保護するか、さらには AI をまったく使用するかどうかについて、明確なルール、モデル、セキュリティ対策を決定し、推進するためのセキュリティの必要性を強調しています。少なくとも、これらの要素が確立されているということは、新製品、特に AI を活用した製品が導入および展開されるときに、その新製品が組織の環境にどのように適合するかを判断するのに、数か月ではなく数週間かかることを意味します。

最初は困難に見えますが、セキュリティ チームとそのリーダーが行う決定は、多くの場合、永続的なプラスの影響を及ぼし、近い将来に目に見える形になります。

ソル・ラシディは、9月30日火曜日のGSX 2025で基調講演を行います。彼女の発言「」は、アライド ユニバーサル主催の一般セッション中に、オールアクセス パスの参加者に公開されます。

サラ・モスケダはの副編集長ですセキュリティ管理および発行元の GSX Daily の編集長セキュリティ管理。次の連絡先[email protected]または LinkedIn で。