كشفت مايكروسوفت عن مجموعة من مزايا أمان الذكاء الاصطناعي الجديدة، بهدف معالجة المخاوف المتزايدة بخصوص أمان الذكاء الاصطناعي والخصوصية والموثوقية.

وتطلق شركة التكنولوجيا العملاقة على هذه المبادرة اسم “الذكاء الاصطناعي الجدير بالثقة” Trustworthy AI، مما يشير إلى دفع نحو التطوير المسؤول لتقنيات الذكاء الاصطناعي.

ويأتي إعلان مايكروسوفت في الوقت الذي تتبنى فيه الشركات والمؤسسات حلول الذكاء الاصطناعي، مما يجلب الفرص والتحديات.

وتشمل العروض الجديدة من مايكروسوفت الاستدلال السري لخدمة Azure OpenAI، وأمان وحدة معالجة الرسوميات المحسّن، والأدوات المحسّنة لتقييم مخرجات الذكاء الاصطناعي.

وكشفت مايكروسوفت عن Correction، وهي خدمة تهدف إلى معالجة مشكلة هلوسات الذكاء الاصطناعي، وهي الحالات التي تولد فيها نماذج الذكاء الاصطناعي معلومات خطأ أو مضللة.

وتحاول Correction مراجعة النص الذي ولده الذكاء الاصطناعي والذي يكون خطأ فعليًا، وتميز الخدمة النص الذي قد يكون خطأ، ومن ثم تتحقق من صحته من خلال مقارنة النص بالمصادر.

ويمكن استخدام Correction، التي تتوفر بصفتها جزءًا من واجهة برمجة تطبيقات Azure AI Content Safety من مايكروسوفت، مع أي نموذج ذكاء اصطناعي لتوليد النصوص، ويشمل ذلك Llama من ميتا وGPT-4o من OpenAI.

وتعتمد Correction على عملية جديدة تتمثل في استخدام نماذج لغوية صغيرة ونماذج لغوية كبيرة لمواءمة المخرجات مع المستندات الأساسية.

وقالت الشركة: “عندما نكتشف وجود عدم تطابق بين سياق المعرفة الأساسية والاستجابة، فإننا نعيد هذه المعلومات إلى نظام الذكاء الاصطناعي. باستخدام هذه المعلومات الإضافية، يكون نظام الذكاء الاصطناعي قادرًا عادةً على تقديم استجابات فضلى في المحاولة الثانية”.

كما تعمل مايكروسوفت على توسيع جهودها في مجال سلامة المحتوى المضمن، مما يسمح بتشغيل فحوصات سلامة الذكاء الاصطناعي مباشرةً عبر الأجهزة، حتى في حال عدم الاتصال بالإنترنت.

وترتبط هذه الميزة بالتطبيقات التي تدمج قدرات الذكاء الاصطناعي مباشرةً في نظام التشغيل، مثل Copilot.

ويعكس دفع الشركة نحو الذكاء الاصطناعي الجدير بالثقة وعيًا متزايدًا في الصناعة بالمخاطر المحتملة المرتبطة بأنظمة الذكاء الاصطناعي المتقدمة.

كما يضع هذا مايكروسوفت في موقع رائد في تطوير الذكاء الاصطناعي المسؤول، مما يمنحها ميزة تنافسية في سوق الحوسبة السحابية وخدمات الذكاء الاصطناعي.

ويبدو أن نهج الشركة يلقى صدى لدى بعض العملاء البارزين، إذ سلطت الضوء على التعاون مع الإدارات التعليمية في مدينة نيويورك وجنوب أستراليا.

وتستخدم هذه الإدارات Azure AI Content Safety لإنشاء أدوات تعليمية مناسبة تعمل بالذكاء الاصطناعي.

تم نسخ الرابط