سال گذشته، هوش مصنوعی (AI) مرزهای امکان را گسترش داد و صنایع مختلف برای ادغام قابلیتهای آن با هدف افزایش بهرهوری و خودکارسازی وظایف پیچیده به رقابت پرداختند. در سال ۲۰۲۴، پیشرفتهای هوش مصنوعی با سرعتی بیسابقه رشد کرد و از نوآوریهای پیشین در حوزه فناوری سبقت گرفت و زمینه را برای تحولات بزرگتر در آینده فراهم کرد. اما این پیشرفت سریع با ریسکهایی همراه است: بدون نظارت انسانی، اشتباهات هوش مصنوعی میتوانند به اندازه دستاوردهایش چشمگیر باشند.
هوش مصنوعی مولد و عاملمحور در حال حاضر توانایی کاربران را برای تولید محتوای پیچیده در رسانههای مختلف افزایش داده و ابزارهای هوش مصنوعی در حوزه سلامت نیز در حال تغییر روشهای تشخیص بیماریها هستند – به گونهای که در برخی موارد عملکرد بهتری نسبت به پزشکان انسانی دارند. این تحولات نویدبخش دگرگونی گسترده در ارائه خدمات سلامت هستند و نشان میدهند که هوش مصنوعی قرار است نقشی بزرگتر در کسبوکارها و عملیات صنعتی ایفا کند.
ظهور عوامل انساننما
قدرت هوش مصنوعی همچنین به تولد عاملهای انساننما منجر خواهد شد. به گفته آندرس ایندست، نویسنده و سرمایهگذار در فناوریهای نمایی مانند هوش مصنوعی، فناوری کوانتومی، فناوری سلامت و امنیت سایبری، در سال ۲۰۲۵ تمرکز اصلی دنیای فناوری بر روی این عوامل انساننما خواهد بود.
«سال جاری با هیجان پیرامون مدلهای زبانی بزرگ (LLM) آغاز شد، اما قرار است با پیشرفتهای شگرف در زمینه رباتهای خودمختار انساننما به پایان برسد.» ایندست در گفتگو با TechNewsWorld گفت.
در سال ۲۰۲۴، توسعه رباتها با سرعت زیادی پیش رفت و نوآوریهایی که پیشتر دور از دسترس به نظر میرسیدند، در حال تحقق یافتن هستند. به گفته او، عرضه رباتهای کاملاً خودمختار انساننما – که پیشتر به محیطهای صنعتی محدود بودند – بهزودی فرا خواهد رسید.
با ورود به سال ۲۰۲۵، انتظار میرود که پذیرش گسترده هوش مصنوعی در حوزه رباتیک، تعاملات پیشرفته بین انسان و رباتها و ظهور مدلهای «رباتیک بهعنوان یک سرویس» (RaaS) رقم بخورد. این مدلها راهحلهای رباتیک پیشرفته را برای صنایع مختلف قابل دسترستر خواهند کرد و به گفته ایندست، صنعت رباتیک وارد دورهای تحولآفرین خواهد شد.
«عوامل انساننما نحوه تعامل ما با فناوری را دگرگون کرده و کاربردهای جدیدی برای هوش مصنوعی در حوزههای مختلف ایجاد خواهند کرد.»
نقش گسترده هوش مصنوعی در امنیت سایبری و زیستی
هوش مصنوعی در جنگهای سایبری نقشی حیاتیتر ایفا خواهد کرد. به گفته آلخاندرو ریواس-واسکز، مدیر جهانی پزشکی قانونی دیجیتال و واکنش به رخدادها در گروه NCC، هوش مصنوعی و یادگیری ماشینی (ML) باعث مرگبارتر شدن جنگهای سایبری خواهند شد و به دلیل اتصال گسترده دیجیتالی، خسارات ناشی از این جنگها فراتر از مناطق درگیری گسترش خواهد یافت.
ابزارهای امنیت سایبری که تاکنون برای محافظت از سیستمهای دیجیتال به کار میرفتند، اکنون در جهت حفاظت مستقیم از افراد نیز توسعه خواهند یافت – از جمله از طریق فناوریهای کاشتنی مانند رابطهای عصبی، تقویتهای زیستی، تراشههای احراز هویت و ایمپلنتهای پزشکی پیشرفته که تعامل انسان با فناوری را متحول خواهند کرد.
با این حال، بابی واکر، مشاور ارشد گروه NCC، هشدار داد که این نوآوریها با خطرات جدی نیز همراه خواهند بود.
«هکرها میتوانند از طریق رابطهای عصبی، کنترل اعمال افراد را به دست بگیرند یا ادراکات آنها را تغییر دهند که منجر به دستکاری شناختی و نقض حریم شخصی میشود. همچنین نظارت مستمر بر دادههای سلامت و رفتار از طریق ایمپلنتها میتواند منجر به سوءاستفاده توسط مهاجمان مخرب یا نظارت تهاجمی دولتی شود.»
برای کاهش این خطرات، ایجاد چارچوبهای جدیدی که فناوری، سلامت و قوانین حریم خصوصی را به هم پیوند دهند ضروری خواهد بود. واکر تاکید کرد که استانداردهای «اخلاق زیستدیجیتال» و استانداردهای ایزو برای امنیت زیستی-سایبری (bio-cybersecurity) نقش مهمی در تعیین شیوههای ایمن برای ادغام فناوری با بدن انسان و رفع چالشهای اخلاقی خواهند داشت.
«حوزه نوظهور امنیت زیست-سایبری ما را مجبور خواهد کرد که مرزهای امنیت سایبری را دوباره تعریف کنیم تا اطمینان حاصل شود که فناوریهای یکپارچهشده با بدن انسان ایمن، اخلاقی و حافظ حقوق افراد هستند.»
نگرانیهای امنیتی در مورد پشتیبانگیری دادهها توسط هوش مصنوعی
سباستین اشتراوب، معمار ارشد راهکار در شرکت N2WS، اظهار داشت که پیشرفتهای هوش مصنوعی سازمانها را در بازیابی عملیات پس از بلایای طبیعی، قطع برق و حملات سایبری توانمندتر خواهد کرد. به گفته او، خودکارسازی فرآیندهای پشتیبانگیری از دادهها نیاز به مداخله انسانی را به حداقل خواهد رساند.
اما اشتراوب هشدار داد که این سطح از اتکا به هوش مصنوعی در فرآیندهای بازیابی فاجعهآمیز، اشتباهاتی را نیز به همراه خواهد داشت. در سال ۲۰۲۵، خواهیم دید که هوش مصنوعی یک راهحل جادویی نیست. اتکای صرف به ماشینها برای خودکارسازی بازیابی دادهها منجر به خطاهای ناگزیر خواهد شد.
«تجربیات ناخوشایندی از نقض اعتماد و تخلفات مقرراتی رخ خواهند داد زیرا سازمانها با سختی خواهند آموخت که حضور انسانها در فرآیند تصمیمگیری بازیابی دادهها ضروری است.» اشتراوب گفت.
تأثیر هوش مصنوعی بر خلاقیت و آموزش
ابزارهای هوش مصنوعی در حال حاضر به بسیاری از کاربران در بهبود مهارتهای ارتباطی کمک میکنند. چتجیپیتی (ChatGPT) و سایر ابزارهای نوشتاری هوش مصنوعی، ارزش مهارت نوشتن انسانی را برجستهتر خواهند کرد.
اریک وانگ، معاون هوش مصنوعی در شرکت Turnitin، پیشبینی کرد که دانشآموزان و نویسندگان از درخواست تولید متن توسط هوش مصنوعی به سمت مشارکت فعال در فرآیند نگارش حرکت خواهند کرد. آنها از فناوری برای ویرایش، بهبود و گسترش ایدههای اصلی خود استفاده خواهند کرد.
خطرات پنهان مدلهای هوش مصنوعی
مایکل لیبرمن، مدیر ارشد فناوری و همبنیانگذار پلتفرم امنیت نرمافزار Kusari، هشدار داد که هوش مصنوعی در حال گسترش است و تشخیص آن دشوارتر خواهد شد.
«ما قبلاً مواردی را مشاهده کردهایم که برخی مدلهای هوش مصنوعی، آلوده به بدافزار بودهاند. انتظار دارم این حملات افزایش یابند و به شکلی مخفیانهتر اجرا شوند.»
وی پیشبینی کرد که حملات دستکاری دادهها (data poisoning) به مدلهای زبانی بزرگ مانند OpenAI، متا و گوگل افزایش خواهد یافت.
«در سال ۲۰۲۵، مهاجمان از مدافعان پیشی خواهند گرفت. مدافعان اغلب با کمبود بودجه مواجهاند، زیرا امنیت معمولاً بهعنوان یک عامل درآمدزا تلقی نمیشود.» وانگ از Turnitin نتیجهگیری کرد که احتمالاً یک حمله سایبری گسترده به زنجیره تأمین هوش مصنوعی لازم است تا این تهدیدها جدی گرفته شوند.
نظر شما در رابطه با پیشرفت هوش مصنوعی در سال ۲۰۲۵ چیست؟ نظر خود را با ما به اشتراک بزارید.
