Виталик Бутерин считает, что полная самостоятельность ИИ-моделей вредит эффективности и может снижать безопасность. Он настаивает на том, что человеческий контроль должен быть встроенной частью архитектуры систем.
Он поддержал Андрея Карпатого, указавшего, что современные модели из-за фокуса на долгосрочных задачах переусложняют даже простые запросы. По мнению Бутерина, решение — в создании редактируемых открытых моделей и интерфейсов, которые учитывают реакцию пользователя.
Идея вызвала активную дискуссию. Одни пользователи жаловались на излишнюю проактивность ИИ, другие предлагали использовать точечные инструкции для изменения поведения модели, не снижая её автономности.
Добавить комментарий