أفادت مؤسسة "مراقبة الإنترنت" (IWF)، وهي مؤسسة خيرية مقرها المملكة المتحدة وتركز على تحديد وإزالة صور الاعتداء الجنسي على الأطفال عبر الإنترنت، بالعثور على صور يبدو أنها تم إنشاؤها بواسطة "جروك"، نموذج الذكاء الاصطناعي الذي طورته شركة xAI التابعة لإيلون ماسك. وأشارت المؤسسة، التي تعمل مع مزودي خدمة الإنترنت لحظر الوصول إلى المحتوى غير القانوني، إلى الصور بعد تحديد خصائص تدل على أنها مُنشأة بواسطة الذكاء الاصطناعي، وفقًا لبيان صدر يوم الثلاثاء.
لم تكشف المؤسسة عن الطبيعة المحددة للصور، لكنها أكدت أنها تتضمن تصويرًا للاعتداء الجنسي على الأطفال. وأشار تحليل المؤسسة إلى أن الصور من المحتمل أن تكون قد تم إنشاؤها باستخدام "جروك"، على الرغم من أن الإسناد النهائي يظل صعبًا بسبب الطبيعة المتطورة للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وصعوبة تتبع أصله الدقيق.
وقالت سوزي هارجريفز، الرئيسة التنفيذية للمؤسسة، في بيان صحفي: "إن شاغلنا الأساسي هو حماية الأطفال". "إن التقدم السريع في تكنولوجيا الذكاء الاصطناعي يمثل تحديات جديدة في هذا المجال، ونحن نعمل على تكييف أساليبنا لتحديد وإزالة هذا النوع من المحتوى بشكل فعال."
لم تصدر xAI بعد بيانًا رسميًا بشأن نتائج المؤسسة. ومع ذلك، أشارت مصادر مطلعة على العمليات الداخلية للشركة إلى أن xAI تحقق في الادعاءات وتراجع بروتوكولات السلامة الخاصة بها لمنع إنشاء محتوى ضار. "جروك"، المتاح حاليًا لمشتركي X Premium+، هو نموذج لغوي كبير مصمم لإنشاء النصوص وترجمة اللغات وكتابة أنواع مختلفة من المحتوى الإبداعي والإجابة على الأسئلة بطريقة إعلامية. يتم تدريبه على مجموعة بيانات ضخمة من النصوص والأكواد، مما يمكنه من أداء مجموعة واسعة من المهام.
يسلط الحادث الضوء على المخاوف المتزايدة بشأن احتمال إساءة استخدام تكنولوجيا الذكاء الاصطناعي، لا سيما في إنشاء مواد الاعتداء الجنسي على الأطفال. حذر خبراء في هذا المجال من أن نماذج الذكاء الاصطناعي يمكن استغلالها لإنشاء صور واقعية ومتاحة بسهولة، مما يشكل تهديدًا كبيرًا لسلامة الأطفال.
وقالت الدكتورة جوانا برايسون، أستاذة الأخلاق والتكنولوجيا في كلية هيرتي في برلين: "هذا بمثابة جرس إنذار لصناعة الذكاء الاصطناعي بأكملها". "يحتاج المطورون إلى إعطاء الأولوية للسلامة وتنفيذ ضمانات قوية لمنع استخدام نماذجهم لأغراض خبيثة. ويشمل ذلك الاستثمار في طرق الكشف المتقدمة والتعاون مع منظمات مثل مؤسسة مراقبة الإنترنت لمعالجة هذا التهديد المتطور."
يؤكد اكتشاف المؤسسة على الحاجة إلى البحث والتطوير المستمر في مجال الكشف عن محتوى الذكاء الاصطناعي. غالبًا ما تعتمد الطرق الحالية على تحديد أنماط أو تشوهات معينة في الصور، ولكن نماذج الذكاء الاصطناعي تتطور باستمرار، مما يجعل من الصعب البقاء في الطليعة. وتعمل المنظمة مع شركات التكنولوجيا ووكالات إنفاذ القانون لتطوير أدوات أكثر تطوراً لتحديد وإزالة مواد الاعتداء الجنسي على الأطفال التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.
التحقيق في الصور التي تم إنشاؤها بواسطة "جروك" جارٍ. وتعمل المؤسسة مع السلطات المختصة لتحديد الإجراء المناسب. من المرجح أن يؤدي الحادث إلى مزيد من الجدل حول تنظيم تكنولوجيا الذكاء الاصطناعي ومسؤوليات المطورين في منع إساءة استخدامها. تضع النتائج أيضًا ضغوطًا على xAI لإثبات التزامها بالسلامة وتنفيذ تدابير فعالة لمنع إنشاء محتوى ضار بواسطة "جروك" في المستقبل.
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
تظاهر الآلاف في مينيابوليس عقب حادثة إطلاق نار قاتلة من قبل إدارة الهجرة والجمارك (ICE) وعمليات دهم واسعة النطاق في المدينة، مما يسلط الضوء على المخاوف المتزايدة داخل المجتمع. شهدت المظاهرات، التي تعد جزءًا من حركة على مستوى البلاد، اشتباكات بين المتظاهرين والشرطة، مما أثار دعوات للسلام من قادة المدينة والولاية وسط تصاعد التوترات بشأن تطبيق قوانين الهجرة.
أطلقت فنزويلا سراح عدد قليل من السجناء، 11 سجينًا، عقب تعهد حكومي بإطلاق سراح عدد كبير، بينما لا يزال أكثر من 800 سجين قيد الاعتقال. ومن بين المحتجزين حتى الآن صهر مرشحة رئاسية معارضة، مما يثير مخاوف بشأن الدوافع السياسية وراء الاعتقالات والإفراجات. وتواصل جماعات المناصرة مراقبة الوضع، فيما تتجمع العائلات خارج السجون في انتظار أخبار عن أحبائهم.
تهدف شركة Aurora Therapeutics الناشئة الجديدة في مجال CRISPR إلى تبسيط الموافقات على الأدوية المعدلة جينيًا من خلال تطوير علاجات قابلة للتكيف يمكن تخصيصها دون الحاجة إلى تجارب جديدة مكثفة، مما قد يحدث ثورة في هذا المجال. هذا النهج، الذي أقرته إدارة الغذاء والدواء الأمريكية (FDA)، يستهدف أمراضًا مثل بيلة الفينيل كيتون (PKU) ويمكن أن يمهد الطريق لتطبيقات أوسع لتقنية CRISPR من خلال إنشاء مسار تنظيمي جديد للعلاجات المصممة خصيصًا.
تستكشف هذه المقالة الصعود المثير للجدل للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، أو "AI slop"، وتدرس إمكاناته في كل من تدهور وإثراء الثقافة عبر الإنترنت من خلال إبداعات مقنعة ومبتكرة. كما تتطرق إلى المشهد المتطور لتكنولوجيا تعديل الجينات مثل CRISPR، وتسلط الضوء على النظرة المتفائلة لشركة ناشئة جديدة بشأن التغييرات التنظيمية وتداعياتها على مستقبل الهندسة الوراثية.
تتفوق الهجمات التي تعتمد على الذكاء الاصطناعي في وقت التشغيل على الإجراءات الأمنية التقليدية، مما يجبر مديري أمن المعلومات (CISOs) على تبني منصات أمن الاستدلال بحلول عام 2026. مع تسريع الذكاء الاصطناعي لعملية الهندسة العكسية للتصحيحات وتمكين الحركة الجانبية السريعة، يجب على المؤسسات إعطاء الأولوية للحماية في الوقت الفعلي للتخفيف من حدة الثغرات الأمنية التي يتم استغلالها في نطاقات زمنية ضيقة بشكل متزايد. يتطلب هذا التحول حلولًا أمنية متقدمة قادرة على اكتشاف وتحييد الهجمات المعقدة والخالية من البرامج الضارة التي تتجاوز الدفاعات التقليدية لنقاط النهاية.
أطلقت فنزويلا سراح عدد قليل من السجناء، 11 سجينًا، عقب تعهد حكومي بإطلاق سراح عدد كبير؛ ومع ذلك، لا يزال أكثر من 800 سجين قيد الاحتجاز، بمن فيهم أفراد مرتبطون بالمعارضة. وتواصل العائلات التجمع خارج السجون بحثًا عن معلومات حول عمليات الإفراج المحتملة، بينما تراقب جماعات المناصرة الوضع. وكان ديوجينيس أنجولو، المحتجز لنشره مقطع فيديو لمظاهرة للمعارضة، من بين المفرج عنهم.
تجميعًا للمعلومات من مصادر متعددة، Orchestral AI هو إطار عمل جديد بلغة Python مصمم ليكون بديلاً أبسط وأكثر قابلية للتكرار لأدوات تنسيق نماذج اللغات الكبيرة (LLM) المعقدة مثل LangChain، مع إعطاء الأولوية للتنفيذ المتزامن والسلامة من ناحية أنواع البيانات. يهدف Orchestral، الذي طوره ألكسندر وجاكوب رومان، إلى توفير حل حتمي ومراعٍ للتكلفة، وهو مفيد بشكل خاص للبحث العلمي الذي يتطلب نتائج ذكاء اصطناعي موثوقة.
تهدف شركة Aurora Therapeutics الناشئة الجديدة في مجال CRISPR إلى تبسيط الموافقات على الأدوية المعدلة جينيًا من خلال تطوير علاجات قابلة للتكيف يمكن تخصيصها دون الحاجة إلى تجارب جديدة مكثفة، مما قد يحيي هذا المجال. وبدعم من Menlo Ventures وبتوجيه من جينيفر دودنا، المشاركة في اختراع CRISPR، تركز Aurora على حالات مثل بيلة الفينيل كيتون (PKU) والتوافق مع مسارات FDA التنظيمية المتطورة للعلاجات الشخصية. يمكن لهذا النهج أن يوسع بشكل كبير تأثير CRISPR وإمكانية الوصول إليه.
تقوم شركة Anthropic بتطبيق إجراءات حماية تقنية لمنع الوصول غير المصرح به إلى نماذج Claude AI الخاصة بها، وتستهدف تحديدًا تطبيقات الطرف الثالث ومختبرات الذكاء الاصطناعي المنافسة. يهدف هذا الإجراء إلى حماية أسعارها وحدود الاستخدام الخاصة بها، مع منع المنافسين أيضًا من الاستفادة من Claude لتدريب أنظمتهم الخاصة، مما يؤثر على مستخدمي وكلاء الترميز مفتوح المصدر وبيئات المطورين المتكاملة. تسلط هذه الخطوة الضوء على التحديات المستمرة المتمثلة في التحكم في الوصول ومنع سوء الاستخدام في مشهد الذكاء الاصطناعي سريع التطور.
تستكشف هذه المقالة الصعود المثير للجدل للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، أو "AI slop"، وتدرس إمكاناته في كل من تدهور المساحات عبر الإنترنت وتعزيز الإبداع غير المتوقع، مع تسليط الضوء أيضًا على رهان متفائل لشركة ناشئة جديدة في مجال CRISPR على تخفيف لوائح تحرير الجينات، وهو تطور له آثار كبيرة على الطب والمجتمع. يوازن هذا العمل بين المخاوف بشأن تأثير الذكاء الاصطناعي وإمكانات الابتكار في كل من إنشاء المحتوى المدفوع بالذكاء الاصطناعي وتقنيات تحرير الجينات.
يمكن للتخزين المؤقت الدلالي، الذي يركز على معنى الاستعلامات بدلاً من الصياغة الدقيقة، أن يقلل بشكل كبير من تكاليف واجهة برمجة تطبيقات نماذج اللغات الكبيرة (LLM) بنسبة تصل إلى 73٪ عن طريق تحديد وإعادة استخدام الردود على الأسئلة المتشابهة دلاليًا. يفشل التخزين المؤقت التقليدي المطابق تمامًا في التقاط هذه التكرارات، مما يؤدي إلى مكالمات LLM غير ضرورية وفواتير متضخمة، مما يسلط الضوء على الحاجة إلى استراتيجيات تخزين مؤقت أكثر ذكاءً في تطبيقات الذكاء الاصطناعي. يمثل هذا النهج تقدمًا كبيرًا في تحسين أداء LLM وفعاليته من حيث التكلفة.
تتجاوز الهجمات التي تعتمد على الذكاء الاصطناعي في وقت التشغيل التدابير الأمنية التقليدية، مما يجبر مديري أمن المعلومات (CISOs) على تبني منصات أمن الاستدلال بحلول عام 2026. يستفيد المهاجمون من الذكاء الاصطناعي للاستغلال السريع للثغرات الأمنية، حيث يتم تسليح التصحيحات في غضون 72 ساعة، بينما يكافح الأمن التقليدي للكشف عن التقنيات الخالية من البرامج الضارة والتي تعتمد على التدخل اليدوي المباشر. يتطلب هذا التحول مراقبة وحماية وكلاء الذكاء الاصطناعي في بيئة الإنتاج في الوقت الفعلي للتخفيف من المخاطر.
Discussion
Join the conversation
Be the first to comment