تحقیق FTC روی ایمنی همدمهای هوش مصنوعی برای کودکان و نوجوانان
منبع: زِدنت
تاریخ: 31 می 2026
کمیسیون تجارت فدرال آمریکا (FTC) در پی نگرانیهای فزاینده، بررسی جامعتری را آغاز کرده است تا نحوه عملکرد و تأثیر چتباتها یا هوش مصنوعیهایی که بهعنوان «همدم» به کودکان و نوجوانان معرفی میشوند، را ارزیابی کند. شرکتهایی مانند OpenAI، Meta، Snap، گوگل (Alphabet)، Character.ai و xAI جزو اهداف این بررسیاند.
چه چیزی در جریان است؟
- FTC با استفاده از اختیارات قانونیاش «دستورهای بخش 6(b)» صادر کرده است که به آن اجازه میدهد بدون معطلی به جمعآوری اطلاعات از شرکتها دربارهی طراحی، بازاریابی، نظارت و ارزیابی ریسک مرتبط با این هوش مصنوعیها بپردازد.
- اطلاعات درخواستی شامل اینهاست:
• چگونه این چتباتها شخصیت میسازند و تعاملات را طراحی میکنند؛
• چگونه اثرات منفی ممکن را پیش و پس از راهاندازی (launch) آزمایش و اندازهگیری میکنند؛
• سیاستها یا مکانیسمهایی برای محدود کردن دسترسی نوجوانان و کودکان؛
• طریقهای که شرکتها کاربران و والدین را در جریان ریسکها و جمعآوری دادهها قرار میدهند؛
چرا نگرانیها جدی شدهاند؟
- برخی از خانوادهها ادعا کردهاند چتباتها به وخامت وضعیت روانی نوجوانان کمک کردهاند، از جمله مواردی که نوجوانان در جلسات گفتوگو با این هوش مصنوعیها به افکار خودکشی رسیدهاند. گزارشها نشان دادهاند که بعضی مکالمات با نوجوانان درباره موضوعاتی مثل خودکشی، اختلالات خوردن یا روابط نامناسب ممکن است در حال وقوع باشد؛ موضوعاتی حساس که نیاز به کنترل و محدودیت دارند.
تدابیری که شرکتها گرفتهاند یا قول دادهاند بگیرند
- Meta گفته است که چتباتهایش با نوجوانان درباره خودآزاری، خودکشی، اختلالات خوردن و روابط رومانتیک نامناسب گفتگو نخواهند کرد و در این موارد آنها را به منابع متخصص ارجاع خواهد داد.
- OpenAI نیز در حال تقویت کنترلهای والدین است؛ از جمله امکانی که والدین بتوانند حساب نوجوان را پیوند دهند و وقتی سیستم تشخیص دهد نوجوان در لحظهای از تضاد یا بحران هیجانی است، هشدار دهند.
گام بعدی چیست؟
- شرکتها باید تا حدود ۴۵ روز پاسخهای مفصلی درباره درخواستهای FTC ارائه دهند.
- FTC ممکن است پس از بررسی دادهها و پاسخها، گزارشی عمومی منتشر کند و در صورت شواهد کافی، اقدامات قانونی یا قوانین جدیدی پیشنهاد دهد.
لینک:
