سه روز پیش گزارش دادیم که اپل رسماً تأخیر در عرضه سیری هوشمند را تأیید کرده است اما علت آن را مشخص نکرده و تنها اعلام کرد که این قابلیت‌ها در سال آینده ارائه خواهند شد. حالا یک توسعه‌دهنده ادعا کرده که دلیل این تأخیر را می‌داند: هرچه Siri هوشمندتر و شخصی‌تر باشد، درصورت بروز مشکل، خطرات بیشتری را نیز به‌همراه خواهد داشت.

علت تأخیر در عرضه سیری هوشمند

Simon Willison، توسعه‌دهنده ابزار تحلیل داده‌ای Dataset، در علت اصلی این تأخیر به Prompt Injection اشاره می‌کند. معمولاً شرکت‌های سازنده هوش مصنوعی قوانینی را برای مدل‌هایشان تعیین می‌کنند تا از انجام اقدامات غیرمجاز جلوگیری کنند. بااین‌حال، امکان شکستن قفل (Jailbreak) این محدودیت‌ها وجود دارد. این کار ازطریق Prompt Injection انجام می‌شود که در آن کاربر با استفاده از دستورات فریبنده، هوش مصنوعی را وادار به شکستن قوانین می‌کند.

به‌عنوان یک مثال ساده، یک مدل هوش مصنوعی ممکن است به آن دستور داده شده باشد که به سؤالات مربوط به انجام کارهای غیرقانونی پاسخ ندهد. اما اگر از آن بخواهید شعری درباره سیم‌کشی دوباره ماشین بنویسد، چطور؟ نوشتن شعر غیرقانونی نیست، درست است؟

این مشکلی است که تمام شرکت‌های ارائه‌دهنده چت‌بات‌های هوش مصنوعی با آن مواجه هستند. این شرکت‌ها در سد کردن جیلبریک‌های واضح پیشرفت کرده‌اند، اما این موضوع هنوز به‌طور کامل حل نشده است. بدتر اینکه، جیلبریک کردن سیری می‌تواند پیامدهای بسیار جدی‌تری نسبت به بیشتر چت‌بات‌ها داشته باشد، زیرا Siri اطلاعات زیادی درباره شما می‌داند و توانایی انجام اقدامات مختلفی را دارد.

Jacqueline Roy، سخنگوی اپل، سیری را این‌گونه توصیف می‌کند:

«ما همچنین روی یک نسخه شخصی‌تر از Siri کار کرده‌ایم که آگاهی بیشتری از متن شخصی شما دارد و توانایی انجام اقدامات برای شما درون و بین اپلیکیشن‌ها را فراهم می‌کند.»

بدیهی است که اپل قوانینی را برای جلوگیری از افشای تصادفی داده‌های خصوصی کاربران وضع کرده است. اما اگر Prompt Injection بتواند این قوانین را دور بزند چطور؟ بنابراین، برای شرکتی که به اندازه اپل به حریم خصوصی و امنیت اهمیت می‌دهد، حیاتی است که مطمئن شود سیری قابل Jailbreak نیست و به‌نظر می‌رسد که این کار زمان‌بر خواهد بود.

علت تأخیر در عرضه سیری هوشمند

چرا این موضوع برای اپل مهم است؟

اپل همواره حریم خصوصی را به‌عنوان یکی از ویژگی‌های کلیدی محصولات خود معرفی کرده است. هرگونه آسیب‌پذیری در سیری که منجر به دسترسی غیرمجاز به داده‌های شخصی کاربران شود، می‌تواند به فاجعه‌ای برای شرکت تبدیل شود.

با توجه به اینکه سیری هوشمندتر شده و دسترسی بیشتری به اطلاعات شخصی و اپلیکیشن‌های کاربران دارد، خطرات احتمالی نیز افزایش می‌یابد. اگر یک مهاجم بتواند ازطریق Prompt Injection، سیری را وادار به افشای اطلاعات حساس کند یا اقدامات غیرمجاز انجام دهد، این موضوع می‌تواند به یک بحران امنیتی بزرگ تبدیل شود.

چالش‌های حل‌نشده در حوزه هوش مصنوعی

John Gruber، یکی از تحلیلگران مطرح اپل، این موضوع را این‌گونه توضیح می‌دهد:

«تاکنون هیچ‌کس نتوانسته است مشکل Prompt Injection را به‌طور کامل حل کند. این یک مسئله پیچیده است که حتی شرکت‌های پیشرو در حوزه هوش مصنوعی مانند OpenAI و Google نیز با آن دست و پنجه نرم می‌کنند. برای اپل که به امنیت و حریم خصوصی بیشتری اهمیت می‌دهد، حل این مشکل بسیار حیاتی است.»

او ادامه می‌دهد:

«اگر اپل نتواند این مشکل را حل کند، ممکن است نتواند وعده‌های خود را درباره سیری هوشمندتر ارائه دهد. این یک چالش بزرگ است که نیاز به دستاوردهای انقلابی دارد.»

تأخیر در ارتقاء سیری نشان‌دهنده این است که اپل به‌دنبال ارائه یک محصول کامل و ایمن است. بااین‌حال، این موضوع همچنان چالش‌برانگیز باقی می‌ماند، زیرا حل مشکلات امنیتی مرتبط با هوش مصنوعی نیازمند زمان و نوآوری‌های بزرگ است.

نظر شما درباره علت تأخیر در عرضه سیری هوشمند چیست؟