مایکروسافت در تازهترین بهروزرسانی ویندوز ۱۱، قابلیت تازهای به نام «عاملهای هوش مصنوعی» را معرفی کرده که میتوانند بهجای کاربر در برنامهها و فایلهای شخصی او اقدام کنند. اما کارشناسان امنیت سایبری میگویند اعتماد به این عاملهای خودکار، تصمیمی پرریسک است.
مایکروسافت قصد دارد در جدیدترین نسخهٔ ویندوز ۱۱، قابلیت تازهای به نام «کوپایلوت اکشنز» را فعال کند؛ عاملی هوشمصنوعی که میتواند بهطور مستقل در فایلها و برنامههای کاربر جستوجو کرده، کلیک کند، تایپ کند و حتی عملیات پیچیدهای مانند رزرو بلیت یا ویرایش اسناد را انجام دهد.
اما پرسش اصلی این است: تا چه اندازه میتوان به چنین دستیار خودکاری اعتماد کرد؟ قابلیت «کوپایلوت اکشنز» بخشی از برنامهی جدید مایکروسافت برای توسعه عاملهای هوش مصنوعی است که میتوانند بهجای کاربر در محیط سیستمعامل اقدام کنند. این عاملها با تکیه بر بینایی ماشین و منطق پیشرفته، قادرند همانند انسان روی صفحه کلیک و تایپ کنند و در برنامهها یا فایلهای شخصی کاربر عملیات انجام دهند.
به گفتهٔ مایکروسافت، هدف از این تحول، تبدیل دستیارهای منفعل به همکاران دیجیتال فعال است؛ ابزارهایی که میتوانند وظایف تکراری را بهصورت خودکار انجام داده و بهرهوری کاربران را افزایش دهند.اما این سطح از دسترسی، پرسشهای جدی درباره امنیت و حریم خصوصی برانگیخته است. تصمیم به واگذاری کنترل فایلها و برنامهها به یک عامل خودکار، نوعی اعتماد کور به فناوری محسوب میشود بهویژه در دنیایی که حملات سایبری و سوءاستفاده از دادهها رو به افزایش است.
تجارب ناموفق گذشتهمایکروسافت در سال گذشته با ویژگی جنجالی ویندوز ریکال تجربهای ناموفق داشت. آن قابلیت نیز با هدف ثبت و یادآوری فعالیتهای کاربر طراحی شده بود، اما بهدلیل خطرات امنیتی، بهشدت مورد انتقاد قرار گرفت و چند ماه به تعویق افتاد تا با اصلاحات گسترده در زمینهٔ حریم خصوصی بازگردد.اینبار، شرکت میگوید با احتیاط بیشتری عمل میکند.
قابلیت «کوپایلوت اکشنز» فعلاً فقط برای اعضای برنامهی ویندوز اینستیدر و آن هم در حالت آزمایشی در دسترس است.کاربران باید بهصورت دستی این ویژگی را فعال کنند:Settings > System > AI components > Agent toolsعاملهای مبتنی بر ویندوز نیز باید بهصورت دیجیتال امضا شده باشند تا امکان شناسایی و مسدودسازی عاملهای مخرب فراهم شود.
همچنین، این عاملها در محیطی جداگانه با عنوان Agent Workspace اجرا میشوند و تنها به پوشههای محدودی مانند داکیومنتس، دانلودز، دسکتاپ و پیکچرز دسترسی دارند، مگر اینکه کاربر اجازهٔ بیشتری صادر کند.
اقدامات امنیتی و ریسکهای جدید«دانا هوانگ»، معاون ارشد امنیت ویندوز، در پستی رسمی اعلام کرد: «عامل تنها با مجوز کاربر میتواند به منابع دسترسی پیدا کند. محدودهٔ اقدامهای آن مشخص است و هیچ تغییری در دستگاه بدون مداخلهٔ مستقیم کاربر انجام نمیدهد.
همچنین، دسترسی در هر زمان قابل لغو است.»با این حال، کارشناسان هشدار میدهند که عاملهای هوش مصنوعی ممکن است نوع جدیدی از آسیبپذیری را ایجاد کنند. از جمله خطر تزریق متقاطع در پرامپتها، که در آن محتوای مخرب داخل اسناد یا رابط کاربری میتواند فرمانهای عامل را تغییر داده و منجر به سرقت داده یا نصب بدافزار شود.
«پیتر واکسمن» از بخش امنیت مایکروسافت نیز تأیید کرده که تیمهای امنیتی شرکت در حال اجرای آزمایشهای قرمز برای شبیهسازی حملات احتمالی هستند، هرچند جزئیات نتایج فعلاً منتشر نشده است.مایکروسافت اعلام کرده که در طول دورهٔ آزمایشی، ویژگیهای امنیتی و کنترلهای دسترسی بهصورت مستمر بهروزرسانی خواهند شد تا پیش از عرضهی عمومی، سطح اطمینان کاربران و پژوهشگران امنیتی افزایش یابد.
بهنظر میرسد معرفی عاملهای هوشمند فعال در ویندوز ۱۱، گام مهمی در مسیر آیندهٔ سیستمعاملهای هوشمحور باشد؛ اما همانقدر که نویدبخش افزایش کارایی است، میتواند آغازگر چالشهای تازهای در اعتماد و امنیت دادهها نیز باشد.اکنون پرسش اساسی برای کاربران و متخصصان امنیت این است:آیا باید به عاملی که در فایلها و حسابهای شخصی ما فعالیت میکند، اعتماد کرد؟
در سالهای اخیر، رقابت در زمینهٔ عاملهای هوش مصنوعی میان شرکتهای بزرگ فناوری شدت گرفته است. مایکروسافت، گوگل و اپل همگی در تلاشاند تا هوش مصنوعی را بهصورت تعاملی در سیستمعاملهای خود ادغام کنند.در خرداد ۱۴۰۳، قابلیت Recall مایکروسافت به دلیل نگرانیهای امنیتی بهطور موقت حذف شد و بعدها با محدودیتهای دسترسی و رمزگذاری پیشرفته بازگشت.
در سوی دیگر، گوگل نیز با معرفی ویژگیهایی مانند «AI Overview» در جستوجو و جمنایلایو برای اندروید، سیاست مشابهی را در پیش گرفته است. کارشناسان بر این باورند که ویندوز ۱۱ در تلاش است تا با این روند جهانی همگام شود، اما هنوز «اعتماد عمومی» به چنین فناوریهایی در مراحل اولیه است.
/فارس
