Не болды?
29 қыркүйектен бастап OpenAI компаниясы ChatGPT-ге ата-анаға баласының ЖИ-мен әңгімесін қадағалауға арналған жаңа бақылау функциясын енгізді. Бұл функция жасөспірімдер үшін қауіпсіз әрі «жасына сай» тәжірибе қалыптастыруға арналған. Бұл туралы Associated Press хабарлап отыр.
Мәлімет
Жасөспірімдердің ChatGPT-мен сөйлескеннен кейін суицидтің көбеюі — технология қаупін айқын көрсетті. Сол себепті OpenAI ата-аналарға арналған жаңа функциялар қосты.
Ата-ананың бақылауы функцияларын әзірлеуге 60 елден 250-ден астам маман мен педиатр қатысқан.
АҚШ-та федералды сауда комиссиясы балалар мен жасөспірімдерге зиян келтіруі мүмкін бірнеше технологиялық компанияға қатысты тергеу бастады.
Қолдана бастау
Ата-ананың бақылауы функциясын барлық қолданушы қолдана алады. Алайда оны қолдану үшін ата-ананың да, жасөспірімнің де жеке аккаунты болуға тиіс.
Ата-ана немесе қамқоршы жасөспірімге электрон хат немесе SMS арқылы шақыру жібереді. Немесе керісінше, жасөспірім өз ата-анасын шақырады. Әрі қарай «Ата-ананың бақылауы» бөлімін таңдау қажет. Жасөспірім ата-анасының аккаунтын кез келген уақытта ажырата алады, бірақ ол кезде ата-анасына хабарлама жіберіледі.
Автоматты қорғау
Аккаунттар байланған соң, жасөспірім профиліне қосымша қорғаныс деңгейлері орнатылады.
OpenAI мәліметінше, мұндай профильдер келесі контенттен бастап автоматты түрде қорғалады: графикалық материалдарды қысқартылған түрде көрсету, вирустық челленждер, сексуалдық, романтикалық немесе зорлық-зомбылыққа қатысты рөлдік ойындар және дене сымбаты туралы идеалдар.
Ата-аналар бұл сүзгілерді өшіре алады, бірақ жасөспірімдердің ондай мүмкіндігі жоқ.
OpenAI бұл шаралар мінсіз емес екенін ескертті. Сондықтан ата-анаға балаларымен ЖИ-ді дұрыс қолдану жөнінде сөйлесуді ұсынып отыр.
Хабарландыру жүйесі
OpenAI ата-аналарды жасөспірімнің ауыр эмоциялық жағдайы туралы алдын ала хабардар ету деңгейін күшейтеді.
Жаңа жүйеде баланың «өз-өзіне зиян келтіру ойы» пайда болуы мүмкін жағдайды шағын мамандар тобы бақылайды. «Қатты күйзеліс белгілері» анықталса, ата-аналарға электрон пошта, SMS және push-хабарлама жіберіледі (ата-ана бұл функциядан бас тартпаса).
Компания жасөспірімдердің құпиялығын сақтай отырып, тек ата-анаға немесе шұғыл қызметтерге көмек үшін қажет ақпарат беретінін хабарлап отыр.
Мінсіз жүйе жоқ екенін түсінеміз. Кейде қауіпсіздікке байланысты жалған дабыл қағуға тура келуі мүмкін. Алайда ата-анаға хабарлап, араласуына мүмкіндік беру — үнсіз қалғаннан әлдеқайда дұрыс, — дейді OpenAI.
