سیسکو در راهحل جدید خود به نام AI Defense، یک رویکرد رادیکال برای امنیت AI اتخاذ و معرفی کرده است.
در مصاحبهای اختصاصی در روز یکشنبه با Rowan Cheung از The Rundown AI، Jeetu Patel، معاون اجرایی و مدیر ارشد محصول سیسکو گفت که AI Defense “رویکردی رادیکال را برای مقابله با چالشهایی اتخاذ میکند که راهحلهای امنیتی فعلی قادر به مدیریت آنها نیستند.”
AI Defense که هفته گذشته معرفی شد، قصد دارد خطرات مرتبط با توسعه و استقرار برنامههای AI را برطرف کند و محل استفاده از AI در کجای یک سازمان را شناسایی کند.
AI Defense میتواند سیستمهای AI را از حملات محافظت کرده و رفتار مدل را در سراسر پلتفرمها با قابلیتهایی مانند موارد زیر ایمن کند:
- شناسایی برنامههای AI تأیید نشده و تأیید شده در فضای ابری عمومی و خصوصی؛
- آزمایش خودکار مدلهای AI برای صدها مورد از مشکلات امنیتی و ایمنی بالقوه؛
- اعتبارسنجی مستمر برای محافظت در برابر تهدیدهای احتمالی ایمنی و امنیتی، مانند prompt injection، denial of service و نشت دادههای حساس.
این راهحل همچنین به تیمهای امنیتی کمک میکند تا دادههای سازمان خود را بهتر محافظت کنند و یک دید جامع از برنامههای AI مورد استفاده توسط کارکنان ارائه دهند، سیاستهایی برای محدود کردن دسترسی به ابزارهای AI تأیید نشده ایجاد کنند و اقداماتی را برای جلوگیری از تهدیدات و از دست دادن دادههای محرمانه در عین رعایت الزامات قانونی به اجرا درآورند.
Kent Noyes، رئیس جهانی AI و نوآوری سایبری در شرکت World Wide Technology مستقر در St. Louis، در بیانیهای گفت: “پذیرش AI شرکتها را در معرض خطرات جدیدی قرار میدهد که راهحلهای امنیت سایبری سنتی آنها را پوشش نمیدهند.”
او افزود: “سیسکو AI Defense یک پیشرفت قابل توجه در امنیت AI است و دید کاملی از داراییهای AI یک شرکت و محافظت در برابر تهدیدهای در حال تکامل را فراهم میکند.”
گامی مثبت برای امنیت AI
MJ Kaufmann، نویسنده و مدرس در O’Reilly Media، تأیید کرد که تحلیل سیسکو از راهحلهای امنیتی موجود صحیح است. او به TechNewsWorld گفت: “سیسکو درست میگوید. ابزارهای موجود بسیاری از حملات عملیاتی علیه سیستمهای AI، مانند prompt injection attacks، نشت دادهها و اقدامات غیرمجاز مدل را پوشش نمیدهند.”
Jack E. Gold، بنیانگذار و تحلیلگر ارشد در J.Gold Associates، گفت که سیسکو موقعیت منحصر به فردی برای ارائه چنین راهحلی دارد، زیرا حجم زیادی از دادههای networking telemetry را در اختیار دارد که میتواند برای تقویت قابلیتهای AI که میخواهد محافظت کند، استفاده شود.
محدودیتهای نگرانکننده
Dev Nag، مدیرعامل و بنیانگذار QueryPal، اظهار داشت که تمرکز سیسکو بر یکپارچهسازی امنیت در لایه شبکه دارای محدودیتهایی است. او به TechNewsWorld گفت: “در حالی که قابلیت دید در سطح شبکه اطلاعات ارزشمندی ارائه میدهد، بسیاری از حملات خاص AI در سطح برنامه و مدل رخ میدهند که تنها از طریق نظارت شبکه قابل شناسایی نیستند.”
او خاطرنشان کرد که خرید Robust Intelligence در سال گذشته به سیسکو قابلیتهای مهمی در زمینه model validation و runtime protection داده است، اما تمرکز بر یکپارچهسازی شبکه ممکن است منجر به ایجاد شکافهایی در امنیت چرخه عمر توسعه AI شود.
نیاز حیاتی در مسیر AGI
Kevin Okemwa، نویسنده Windows Central، اشاره کرد که راهاندازی AI Defense در زمانی مناسب انجام شده است، زیرا آزمایشگاههای AI در حال نزدیک شدن به تولید هوش مصنوعی عمومی (AGI) هستند.
James McQuiggan، مدافع آگاهی امنیتی در KnowBe4، گفت: “AGI این توانایی را دارد که مانند یک انسان فکر کند و میتواند صنایع را متحول کند، اما همچنین خطرات گستردهای را به همراه دارد.”
او افزود: “امنیت AI فقط یک ویژگی اختیاری نیست، بلکه برای حرکت به سمت AGI حیاتی است.”
خطر نابودی وجودی؟
Okemwa همچنین نوشت که در حالی که AI Defense گامی در مسیر درست است، اما پذیرش آن توسط سازمانها و آزمایشگاههای AI بزرگ هنوز مشخص نیست.
Stephen Kowski، مدیر ارشد فناوری در SlashNext، هشدار داد: “ایده اینکه AI خود میتواند ریسکهای وجودی خود را حل کند، به طرز خطرناکی خوشبینانه است.”
Gold اضافه کرد: “من به این پیشبینیهای آخرالزمانی اعتقادی ندارم. ما راهی برای مدیریت AI پیدا خواهیم کرد و این کار را به شکلی ایمن انجام میدهیم.”
