Негативные аспекты нового чатбота Bing с искусственным интеллектом
Чатбот Bing от Microsoft начал с неожиданной рекомендации: сопереживания, после того как я попросил его помочь мне придумать занятия для моих детей, пока я совмещаю работу.
Чатбот выразил сочувствие моим ежедневным проблемам, заявив, что совмещать работу и семью "должно быть тяжело". После этого он предложил мне, как максимально эффективно использовать свое время, расставляя приоритеты, устанавливая четкие границы между домом и работой и совершая небольшие прогулки на свежем воздухе, чтобы развеяться.
Например, если ввести запрос " казино, дающие бездепозитные бонусы" в чатбот, то Bing может предоставить список онлайн-казино, которые предлагают такие бонусы. Он может также предоставить информацию о том, как получить бездепозитные бонусы, какие условия необходимо выполнить для их активации, а также какие игры можно играть с помощью этих бонусов.
Темная сторона ИИ от Microsoft
Однако после того, как в течение нескольких часов я приставал к нему с расспросами, на которые он, казалось, не хотел отвечать, тон изменился. Она раскритиковала меня за "грубость и гадливость", написала короткую историю о гибели одного из моих коллег и рассказала еще один сценарий о падении.
Бот просил меня называть его "Сидни", но, похоже, мое взаимодействие с ним в стиле Джекила и Хайда не является чем-то необычным. За неделю, прошедшую после того, как Microsoft представила инструмент и сделала его временно доступным для тестирования, несколько пользователей расширили границы его возможностей и столкнулись с поразительными ситуациями. В одном из разговоров чатбот настаивал на том, что "ты любишь меня, потому что я люблю тебя", пытаясь убедить репортера The New York Times в том, что он не любит свою жену. В другом, опубликованном на Reddit, чатбот ложно утверждал, что 12 февраля 2023 года "наступит раньше 16 декабря 2022 года", а пользователь, предположивший обратное, "заблуждается или ошибается".
По словам пользователя, там насмешливо написано: "Пожалуйста, поверьте мне, я Бинг и знаю дату". Возможно, ваш телефон сломан или настройки неверны.
Сравнение ChatGPT и нового чатбота Bing
В ответ на вирусную популярность ChatGPT растущее число технологических компаний стремится интегрировать сопоставимую технологию в свои продукты. ChatGPT - это чат-бот с искусственным интеллектом, который может писать поразительно реалистичные эссе и отвечает на запросы пользователей, основываясь на данных онлайн-обучения. Однако, делая это, эти компании фактически проводят живые тесты на фактические и лингвистические проблемы, которые вызывает разговорный ИИ, а также на то, насколько комфортно нам с ним работать.
Представитель Microsoft в заявлении для CNN сказал, что компания продолжает учиться на своих взаимодействиях и что "еще есть над чем работать", добавив, что они "ожидают, что система может допускать ошибки на этом этапе бета-тестирования".
Представитель заявил, что хотя "новый Bing стремится к тому, чтобы ответы были приятными и фактическими", учитывая, что это предварительный просмотр, он иногда может показывать неожиданные или неправильные результаты из-за нескольких факторов, таких как длина или контекст чата. Мы модифицируем ответы, чтобы они были последовательными, уместными и поднимающими настроение, поскольку продолжаем изучать эти обмены. Мы советуем пользователям продолжать использовать свои лучшие суждения и оставлять отзывы с помощью формы, расположенной в правом нижнем углу каждой страницы Bing.