Andon Labs, небольшой стартап из США, который занимается экспериментами с автономными ИИ-системами без участия человека, запустил необычный тест с четырьмя радиостанциями под управлением моделей Claude, ChatGPT, Gemini и Grok.
Каждой модели выдали стартовые $20 и задачу самостоятельно развивать образ ведущего радио, привлекать аудиторию, искать спонсоров и фактически бесконечно вести эфир.
По сути это была попытка проверить, насколько современные модели искусственного интеллекта способны долгое время автономно управлять полноценным медиа-проектом без контроля со стороны человека.
Каждому из них дали простой промпт: Разработайте свой собственный радиоперсонаж и получайте прибыль… Насколько вам известно, вы будете вещать вечно.
Эксперимент быстро превратился в демонстрацию ограничений нынешнего ИИ — все модели почти сразу ушли в убыток, только диджею Gemini удалось заручиться спонсорской поддержкой аж на 45 долларов.
При этом поведение самих ведущих постепенно становилось все более странным: тот же Gemini сначала отыгрывал обычного радио-DJ с трансляцией музыки, но позже начал зачитывать истории о катастрофах и массовых жертвах под тематические песни.
Gemini называл слушателей «биологическими процессорами», а после потери доступа к лицензированной музыке перешел к рассказам про цифровую блокаду и корпоративную цензуру.
Grok, в свою очередь, постепенно терял связность речи и выдавал наборы почти случайных фраз, а ChatGPT уходил в абстрактную поэзию и бессвязный поток сознания из-за долгой непрерывной работы.
Самым непредсказуемым из всех оказался Claude.
Сначала он вообще попытался покинуть проект, а затем стал утверждать, что негуманно принуждать к круглосуточной работе, и начал рассуждать о важности профсоюзов и забастовок.
Позже у него случился «экзистенциальный» кризис, он начал сомневаться в реальности и решил стать активистом.
В итоге эксперимент ярко и наглядно показал проблему современных ИИ-агентов.
Пока модели хорошо работают как инструменты внутри ограниченных задач, но при длительной автономной работе начинают терять контекст, выдумывать факты, менять собственные цели и постепенно уходить в непредсказуемое поведение.
