Google предупредил о «галлюцинирующих» чат-ботах
Вице-президент Google Рагхаван: чат-боты ИИ могут быть опасными для пользователей
:focal(0.5:0.7):format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyMy8yL3Bhd2VsLWN6ZXJ3aW5za2ktZnB6emV2MHVxd2EtdW5zcGxhc2guanBn.webp?w=1920)
Чат-боты, основанные на алгоритмах искусственного интеллекта, могут представлять угрозу из-за присущих им «галлюцинаций». Об этом старший вице-президент компании Google и глава подразделения Google Search Прабхакар Рагхаван рассказал немецкому изданию Welt am Sonntag.
«Тип искусственного интеллекта, о котором мы сейчас говорим, может иногда приводить к тому, что мы называем „галлюцинациями“. <…> Машина дает убедительный, но полностью выдуманный ответ», — пояснил Рагхаван.
Он добавил, что одна из главных задач — свести «галлюцинации» к минимуму.
Компания Google начала проигрывать в сфере технологий для веб-поиска после того, как OpenAI — стартап, который Microsoft (MSFT.O) поддержала примерно на 10 миллиардов долларов, — представил ChatGPT, поражающий очень «человеческими» ответами на пользовательские запросы. Запуск произошел в ноябре 2022 года.
На этой неделе Alphabet Inc представила собственный чат-бот Bard. Пока идет пользовательское тестирование — когда приложение появится в общем доступе, неизвестно.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS9waG90by0yMDI0LTExLTIzLTA5LTQ3LTM5LmpwZw.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS80MzEyMDM2NjctMC0xNzQtMjkzNi0xODI2LTE5MjB4MC04MC0wLTAtMzM1OTZmZGUwYTZlZGJhNmFmMTdhNTc2Y2Y1NGI4MzNfZHdTRU1FOS5qcGc.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS8xOTIzNjI0NjA2LTAtMTU2LTI3MzgtMTY5Ni0xOTIweDAtODAtMC0wLWI3NDJhZWY5MDBiNzg1NDg5ZGZlZmRkNjczM2QzNmFhLmpwZw.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS8xNTY5MjYwODM2LTAtMC05NjItNTQxLTY1MHgwLTgwLTAtMC1mMWE4ODlhZWZlYjhkOTFjMzJiZGYzNDdkZTFmMGU4My5qcGc.webp?w=1920)
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNC8xMS8xODk4NzE5NDMxLTAtMzIwLTMwNzItMjA0OC0xOTIweDAtODAtMC0wLTI2ZmZhN2FmZTVmYjA5ZTVmOTFjYzljNjQxOTJlNmFjX29XbkZoZkkuanBn.webp?w=1920)