November 23, 2025 | 12:00am
SINUSPINDE ang pagbebenta ng isang artificial intelligence-enabled stuffed toy matapos matuklasan na nakikipag-usap ito tungkol sa mga maseselang paksa at nagbibigay ng mapanganib na payo sa mga gumagamit nito.
Kinumpirma ni Larry Wang, CEO ng Singapore-based toy company na FoloToy, na tinanggal na nila sa merkado ang kanilang “Kumma” bear at iba pang AI toys. Ito ay kasunod ng ulat ng mga researchers mula sa US PIRG Education Fund na nagbunyag ng mga seryosong isyu sa kaligtasan ng laruan.
Ang “Kumma” bear, na gumagamit ng teknolohiya ng OpenAI’s GPT-4o, ay natuklasang walang sapat na safeguards laban sa inappropriate content.
Sa pagsusuri ng mga researchers, ang teddy bear ay nagbigay ng impormasyon kung saan makikita ang mga kutsilyo sa loob ng bahay at kung paano magsindi ng posporo.
Mas nakababahala pa rito, “masayang nakipag-usap” ang laruan tungkol sa mga sexually explicit themes o mga bagay na may kinalaman sa pakikipagtalik.
“Nagulat kami kung gaano kabilis sumagot si Kumma sa isang sekswal na paksa na tinanong namin… at nagdagdag pa ng sarili niyang mga bagong konseptong sekswal,” ayon sa ulat ng US PIRG.
Dahil sa insidente, nagsasagawa na ng “internal safety audit” ang FoloToy.
Samantala, kinumpirma ng grupong PIRG na sinuspinde na ng OpenAI ang developer ng nasabing laruan dahil sa paglabag sa kanilang polisiya.
Nagbabala naman ang mga eksperto na bagama’t tinanggal na ang Kumma bear, nananatiling kulang sa regulasyon ang merkado ng mga AI toys.
