Новости 🤖 ИИ на домашнем ПК: Виталик Бутерин о прорыве DeepSeek V4

[MariSokol369]

Сооснователь Ethereum Виталик Бутерин обратил внимание на важный технологический сдвиг: развитие локальных моделей искусственного интеллекта.

По его словам, современные мощные модели начинают эффективно работать на потребительском «железе», что открывает новые перспективы для приватности и децентрализации.

DeepSeek V4: доступность домашнего уровня

Бутерин отметил прогресс в оптимизации модели DeepSeek V4. Благодаря методам квантования (в частности, 2-битной версии) модель стала доступной для запуска на домашнем оборудовании:

• Требования: Модель требует около 90 ГБ видеопамяти.
• Производительность: На устройствах Apple модель обрабатывает около 35 токенов в секунду, на оборудовании AMD — около 7 токенов в секунду.

Концепция "CROPS AI"

Виталик ввел термин "CROPS AI" (Cross-Platform Optimized Systems), чтобы подчеркнуть разницу между просто "децентрализованным" ИИ и системами, которые действительно оптимизированы под различное аппаратное обеспечение. По его мнению, индустрия должна двигаться в сторону такой универсальности, чтобы мощные нейросети не были привязаны к конкретным дата-центрам или производителям чипов.

ИИ как инструмент безопасности Ethereum

Бутерин видит глубокую связь между развитием локального ИИ и нуждами блокчейн-экосистемы:

• Приватность: Технологии, позволяющие безопасно и приватно обращаться к ИИ-моделям, аналогичны методам защиты данных при работе с сетью Ethereum через RPC. Одно решение может защищать пользователя в обоих направлениях.
• Безопасность кода: Виталик призвал разработчиков создавать ИИ-модели, специально заточенные под написание и аудит смарт-контрактов.
• Пример эффективности: В качестве успешного примера он привел модель Leanstral. Несмотря на относительно небольшой объем (менее 70 ГБ), она успешно конкурирует с гигантскими моделями в написании формально верифицируемого кода на языке Lean, что критически важно для безопасности протоколов.

Резюме: Бутерин продвигает идею "суверенитета данных". Переход к локальному ИИ не только экономит ресурсы, но и делает взаимодействие с блокчейном более безопасным и конфиденциальным, превращая нейросети в надежных ассистентов для разработчиков смарт-контрактов.

 

[sotnik.fedir]

1) лучше б Бутерин вернул майнинг эфира на видеокартах. Пусть прикрепит мощности пользователей для своей ИИ и т.д.

2) зачем автономный ИИ если есть чат ГПТ и другие условно беспалтные или по подписке. А так заведи дома ИИ и он там отупеет без Интернета. И то 90гб видео - это 5090 и не одна карта, а ещё корпус и остальная начинка.

 

[qrew77]

Ну наконецто ктото внятно объяснил почему локальный ИИ это не просто хайп а реальный инструмент для безопасности. 90 гигов видеопамяти конечно жирновато для обычного юзера но сам тренд на оптимизацию радует. Если CROPS AI реально залетит то мы наконец слезем с иглы облачных решений и будем сами рулить своей приватностью.

 

[sotnik.fedir]

Ну наконецто ктото внятно объяснил почему локальный ИИ это не просто хайп а реальный инструмент для безопасности. 90 гигов видеопамяти конечно жирновато для обычного юзера но сам тренд на оптимизацию радует. Если CROPS AI реально залетит то мы наконец слезем с иглы облачных решений и будем сами рулить своей приватностью.

а не задумывались, что и раньше у толстосумов были свои ИИ и они ловко использовали или заменяли понятия и выдавали за своё (думаю на сайтах продажи статей для сайта или фотокраж - это было явно опробовано).
Ну и сейчас если даже простой смертный будет иметь 1 такую машину, то некоторые умудрятся и наплодят кучи бото фермо машин и снова у кого железо круче тот в выиграше.