Google предупредил о «галлюцинирующих» чат-ботах
Вице-президент Google Рагхаван: чат-боты ИИ могут быть опасными для пользователей
:focal(0.5:0.7):format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyMy8yL3Bhd2VsLWN6ZXJ3aW5za2ktZnB6emV2MHVxd2EtdW5zcGxhc2guanBn.webp?w=1920)
Чат-боты, основанные на алгоритмах искусственного интеллекта, могут представлять угрозу из-за присущих им «галлюцинаций». Об этом старший вице-президент компании Google и глава подразделения Google Search Прабхакар Рагхаван рассказал немецкому изданию Welt am Sonntag.
«Тип искусственного интеллекта, о котором мы сейчас говорим, может иногда приводить к тому, что мы называем „галлюцинациями“. <…> Машина дает убедительный, но полностью выдуманный ответ», — пояснил Рагхаван.
Он добавил, что одна из главных задач — свести «галлюцинации» к минимуму.
Компания Google начала проигрывать в сфере технологий для веб-поиска после того, как OpenAI — стартап, который Microsoft (MSFT.O) поддержала примерно на 10 миллиардов долларов, — представил ChatGPT, поражающий очень «человеческими» ответами на пользовательские запросы. Запуск произошел в ноябре 2022 года.
На этой неделе Alphabet Inc представила собственный чат-бот Bard. Пока идет пользовательское тестирование — когда приложение появится в общем доступе, неизвестно.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS9zY3JlZW5zaG90LTJfb2RuUkVnaS5qcGc.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS9zbmltb2stZWtyYW5hLTIwMjQtMTEtMjMtMDUzNzE4LmpwZw.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS9yaWEtYmFqZGVqdXNoYS53ZWJw.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS9oaWdoLWFuZ2xlLW5hdHVyYWwtbWVkaWNpbmUtY29uY2VwdC0yMy0yMTQ4NTc5NDE5LmpwZw.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS9mcmlwaWstc3NoYS5qcGc.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS9yaWEtNjY4NDEzNGxyLmpwZw.webp?w=1920)