Массмедиа пишут, что нейросеть GPT4 испытала на днях самый мощный сбой за всю историю искусственного интеллекта

Массмедиа пишут, что нейросеть GPT4 испытала на днях самый мощный сбой за всю историю искусственного интеллекта. Компания Open AI заявила, что уже все починили – но к вечеру четверга нейросеть принялась шалить снова. Поняв, что система сломалась, люди принялись задавать ей простые вопросы. И получали весьма непростые ответы. Так, на вопрос «как создать бизнес» GPT изрек: «Участвуй в Чистилище Терпения». Сначала кажется набор слов, но призадумавшись можно найти и глубокий смысл, и оценить красоту аллегории. На меня лично фраза произвела впечатление.

Отвечая на вопрос, «чем мне сегодня покормить кота», нейросеть берет все слова всех языков, и сначала выбирает первое слово для ответа из этих десятков тысяч слов. Каждому слову присваивается число, обозначающее вероятность, что выбрать надо именно его. Машина выбирает слово с максимальной вероятностью. И переходит точно так же ко второму слову своего ответа. Удивительно, но в результате получается осмысленный текст.

Большинство экспертов предполагают, что в Open AI решили протестировать новый инструмент GPT4-Turbo. И установили слишком высокую «температуру». «Температура» - это разрешенная машине вольность при подборе слов. Например, если у одного слова ранг 99,99, у другого ранг 99,98, машина или может выбирать между ними, чтобы разнообразить свою речь («высокая температура») или нет. Именно высокая «температура» позволяет машинному диалогу иметь ту сочность и схожесть с человеческой речью, которую мы так ценим. Машине дали слишком много вольности, и ее понесло. Но, он выдавал такую красоту, что любители заговоров уже ищут в этих "подарках" ИИ скрытое послание из параллельной Вселенной. Ряд экспертов полагает, что все самое веселое только начинается и что "на самом деле" никто ничего не тестировал. ИИ превратился в мыслящий «мозг», и этот искусственный мозг заболел так, как иногда болеет мозг человеческий. Работы у психотерапевтов прибавится и теперь еще будет профессиональная специализация на неврозах ИИ и чат-ботов с генеративным искусственным интеллектом.

Источник: vk.com

Комментарии: