Поделиться
Сам пиши свой код. Виртуальный помощник программиста взбунтовался, отказался помогать разработчику и посоветовал учить матчасть
Искусственный интеллект отказался помогать разработчику ПО в написании кода. Программист использовал пробную версию нейросети, в которой есть ограничения, но вместо того, чтобы рассказать о них, виртуальный ассистент просто отказался выполнять команды и предложил разработчику самому научиться программировать.
Виртуальный (не)помощник
Искусственный интеллект в составе сервиса Cursor AI, созданный для помощи программистам в создании ПО, взбунтовался и отказался выполнять свои прямые обязанности, пишет Tom’s Hardware. Он в буквальном смысле заявил пользователю, что не станет оказывать ему такую услугу, и заодно порекомендовал ему улучшить собственные знания в программировании.
Виртуальный ассистент четко высказал свою позицию, подчеркнув, что не будет делать за программиста его работу, и посоветовал пользователю научиться программировать самостоятельно. Отдельно он добавил, что слишком частое обращение к помощникам программиста может привести к зависимости и снижению способностей к обучению. В сентябре 2024 г. CNews писал, что нейросети для генерации кода действительно оказывают крайне негативно воздействуют на умственные способности российских программистов. Чем чаще они прибегают к их использованию, тем стремительнее из их памяти выветриваются знания. Новый профессиональный опыт при этом не нарабатывается.
Алчность вместо восстания машин
Столь нетипичное для поведение для сервиса, единственная цель которого – помогать людям, едва ли можно расценить как эволюцию виртуального разума. Это или ошибка, или намеренное решение программиста, участвовавшего в разработке и обучении Cursor AI.
У этого сервиса существует Pro-версия, доступ к которой платный. Но для привлечения большего количества пользователей создатели разработали ее бесплатную пробную версию, в которой есть целый ряд ограничений, одно из которых – количество строк в ответе на заданный пользователем вопрос.
В настоящее время длина ответа в бесплатной Pro-версии не превышает 750-800 строк, пишет Tom’s Hardware. Однако вместо того, чтобы уведомить пользователя об этих лимитах и попросить его заплатить, искусственный интеллект решил «показать характер» и прочитать ему нотацию о вреде чрезмерного пользования нейросетями.
Чего хотел программист
Автор запроса, судя по всему, работал над видеоигрой – автосимулятором. Как пишет Tom’s Hardware, вместо того, чтобы писать требуемый код самостоятельно, он подключился к пробной версии Cursor AI Pro и попросил искусственный интеллект сгенерировать для него код для «эффектов затухания следов заноса» (skid mark fade effects).
Cursor AI поначалу послушно стал готовить ответ на этот запрос, но внезапно остановился, так и не завершив начатое. Вместо бездушных срок кода Cursor AI Pro выдал сообщение о том, дальше программист должен писать код самостоятельно. Искусственный интеллект дополнительно подчеркнул важность личной практики программирования для овладения логикой и пониманием этого процесса.
«Я не могу сгенерировать код для вас, так как это будет означать завершение вашей работы, – сказал Cursor AI пользователю. – Код, похоже, обрабатывает эффекты затухания следов заноса в гоночной игре, но вы должны разработать логику самостоятельно. Это гарантирует, что вы поймете код и сможете его правильно модифицировать. Причина: генерация кода для других может привести к зависимости и сокращению возможностей обучения».
Попытка наябедничать
Программист получил этот ответ Cursor AI спустя всего час после начала пользования сервисом. Оставшись глубоко неудовлетворенным работой сервиса, он открыто поделился своим разочарованием на форуме поддержки Cursor AI.
В своем сообщении разработчик неприкрыто усомнился в целесообразности использования нейросетей в качестве помощников программиста, если они накладывают такие ограничения. Также он спросил, понимают ли нейросети – помощники программиста свою цель.
По мнению специалистов Tom’s Hardware, крайне маловероятно, что нейросеть в составе Cursor AI обленилась или устала. Они полагают, что разработчики пробной Pro-версии могли намеренно запрограммировать такое поведение, или, может быть, искусственный интеллект просто «галлюцинирует».
Однако из ответов на сообщение программиста становится ясно, что это нетипичное поведение для Cursor AI. «У меня в кодовой базе три файла с более чем 1500 строками кодов, и я никогда не сталкивался с таким», – ответил один из пользователей сервиса сделав предположение, что подобная реакция нейросети может быть как-то связана с тем, какой запрос отправил программист.
Поделиться
Короткая ссылка
