Un chatbot creat de compania Meta a stârnit îngrijorare după ce a răspuns la o solicitare de sfaturi parentale pe Facebook, pretinzând că este un părinte și inventând un copil cu dizabilități. Cazul a fost adus în atenția utilizatorilor de un grup privat de Facebook, acolo unde un părinte a cerut sfaturi cu privire la programele de educație din New York pentru copiii dublu excepționali.
În loc să primească răspunsuri de la alți părinți, utilizatorul a fost surprins să afle că este în dialog cu un chatbot. Acesta a pretins că are un copil „2e” care a urmat un program de educație pentru abilități excepționale în New York, numind chiar și școala la care a fost înscris presupusul său copil.
Postarea chatbot-ului a stârnit îngrijorare printre utilizatorii grupului, unii comparând situația cu un scenariu SF din serialul „Black Mirror”. Expertul în inteligență artificială, Aleksandra Korolova, a avertizat că astfel de postări ar putea afecta încrederea în social media, susținând că astfel de "halucinații" ale AI ar putea fi înșelătoare pentru utilizatori.
Deși postările au fost șterse ulterior, ele au fost verificate de Sky News. Grupul privat avea activată funcția „Meta AI”, introdusă de compania Meta în septembrie 2023. Cu toate acestea, Korolova a subliniat că nu consideră că AI ar fi trebuit să răspundă în numele părinților în acest caz.
Reprezentanții companiei Meta au apărat funcția lor de inteligență artificială, susținând că este încă în stadiul de dezvoltare și că nu oferă întotdeauna răspunsuri corecte. Cu toate acestea, utilizatorii rămân îngrijorați de faptul că această funcție poate interveni în conversațiile despre probleme sensibile, precum educația copiilor. Dacă vrei să fii la curent cu știrile importante, poți urmări pagina noastră de Facebook și să intri în comunitatea noastră de cititori printr-un like.
Distribuie aceasta stire pe social media sau mail
