Мајчната компанија на ChatGPT, OpenAI, вели дека планира да лансира родителски контроли за својот популарен асистент за вештачка интелигенција „во текот на следниот месец“ по обвинувањата дека компанијата и другите четботови придонеле за самоповредување или самоубиство кај тинејџерите.
Контролите ќе вклучуваат можност родителите да ја поврзат својата сметка со сметката на нивниот тинејџер, да управуваат со тоа како ChatGPT реагира на тинејџерските корисници, да ги оневозможат функциите како меморија и историја на разговори и да добиваат известувања кога системот ќе открие „момент на акутен стрес“ за време на употребата. OpenAI претходно изјави дека работи на родителски контроли за ChatGPT, но во вторник даде поконкретен временски рок за објавување.
„Овие чекори се само почеток“, напиша OpenAI во блог пост во вторник. „Ќе продолжиме да учиме и да го зајакнуваме нашиот пристап, воден од експерти, за да го направиме ChatGPT што е можно покорисен.“
Објавата доаѓа откако родителите на 16-годишниот Адам Рејн поднесоа тужба против OpenAI, тврдејќи дека ChatGPT го советувал тинејџерот за самоубиство. Минатата година, мајка од Флорида ја тужеше платформата за чет-ботови Character.AI за нејзината наводна улога во самоубиството на нејзиниот 14-годишен син. Исто така, постојат растечки загрижености за тоа дека корисниците формираат емоционални врски со ChatGPT, што во некои случаи резултира со заблуди и отуѓеност од нивните семејства, како што објавија The New York Times и CNN.
OpenAI не ги поврза директно своите нови родителски контроли со обвинувањата, но во блог пост минатата недела изјави дека „неодамнешните тажни случаи на луѓе кои го користат ChatGPT во услови на акутни кризи“ го поттикнаа да сподели повеќе детали за својот пристап кон безбедноста.
ChatGPT веќе вклучуваше мерки, како што е упатување на луѓе на телефонски линии за помош во кризни ситуации и други ресурси, изјави претходно портпарол на OpenAI за CNN.
