По словам специалиста, в последнее время все чаще можно услышать о практике применения чат-ботов в области здравоохранения, особенно популярно использовать их вместо сеансов психотерапии. Однако, как объяснила Орлова в интервью «Газете.Ru», такое использование ИИ связано с рисками.
«Один из самых тревожных аспектов – уязвимость личных данных пациентов. Так, самые сокровенные переживания, страхи и травматические ситуации человека, доверенные алгоритму, могут оказаться в руках злоумышленников или даже недобросовестных корпораций. Даже обезличенная информация порой может поддаваться деанонимизации, превращаясь в инструмент манипуляции или дискриминации», – отметила Орлова.По ее словам, ИИ не может оказать квалифицированную психологическую помощь человеку, так как не умеет оценивать невербальные проявления.
«ИИ не чувствует, не сопереживает по-настоящему, и, как следствие, не улавливает тончайшие нюансы человеческих эмоций. Так, если в критические моменты эмоциональной уязвимости обратившегося пользователя искусственный интеллект не распознает отчаяние пациента или, того хуже, даст опасный совет, то кто будет отвечать за последствия? Алгоритмы, «прошитые» в искусственном интеллекте, также не лишены предвзятости, – они учатся на данных, созданных людьми, а значит, могут неосознанно воспроизводить стереотипы, дискриминируя определенные группы лиц или дисфункциональные психические состояния», – добавила специалист.Еще одна опасность, связанная с использованием искусственного интеллекта в практике психологического консультирования – иллюзия замены.
«Человек может начать воспринимать искусственный интеллект как панацею, откладывая визит к живому специалисту даже в серьезных случаях. А где границы доверия? Понимают ли пациенты, как именно используются их слова, жалобы, самые уязвимые признания? В этом и заключается парадокс технологического прогресса: с одной стороны, искусственный интеллект делает помощь доступнее, с другой – ставит нас перед необходимостью пересмотреть нормы приватности, ответственности и самой человечности в терапии. Возможно, оптимальный путь – не противопоставление, а гармоничное сочетание искусственного интеллекта и профессионализма специалистов психологов и психотерапевтов, где технологии служат инструментом, но не заменяют живое участие», – заключила психолог.Ранее стало известно, что некоторым казахстанцам запретили использовать ChatGPT. Об этом журналистам рассказал первый вице-министр цифрового развития, инноваций и аэрокосмической промышленности Каныш Тулеушин. Речь идет о государственных служащих.