5 Aug 2026, 06:06 UTC353 views11 reactionsread 7 August 2026 Опубликовал большой тест-сравнение ведущих моделей на всех поколениях видеокарт NVIDIA (кроме Blackwell).
https://youtu.be/VZKnezWNFCo
Тест оценивает скорость (TPS), качество выполнения разных задач от кодинга до агентных сценариев, в которых задействован LangGraph агент на DeepSeek V4 Flash с MCP-функциями, вызываемыми через мою библиотеку MCPager.
Jupyter-notebook прилагается.
В этом же видео я разобрал и сравнил м…
🔥6👍5
30 Jul 2026, 13:32 UTC659 views6 reactionsread 7 August 2026 Нашел время для технического разбора линейной рекуррентной памяти вообще и KDA в частности —
https://pikabu.ru/story/kak_rekurrentnaya_pamyat_otkryivaet_novyie_vozmozhnosti_dlya_llm_na_primere_kimi_k3_14198121
плюс мои комментарии о том, как работает AttnRes в Kimi K3
❤3👍3
21 Jul 2026, 05:07 UTC≈1,080 views24 reactionsread 7 August 2026 Как меняется внимание новейших LLM на примере Kimi K3, релиз весов которой ожидается 27 июля?
Эта модель реализует Kimi Delta Attention, еще одно поколение гибридного линейного внимания. На примере KDA видно, как фронтир-модели сейчас подступают вплотную к тому, чтобы создать искусственный аналог долговременной памяти.
У человека рабочая память и долговременная память — это не просто две памяти разного размера. Они …
👍16❤8
24 Jun 2026, 16:41 UTC≈1,090 views19 reactions1 Starread 7 August 2026 Я подумал, что мои теоретические исследования на тему — как AI кодирует (и декодирует) знания стоило подкрепить практическими примерами. Я записал видео с обучением Embedding модели и MLP с подробными комментариями к вопросу связи AI, знания и письменности (а также языка, в более широком смысле).
https://youtu.be/lu61jLg96rA?si=R0VwNe9Zei6XjrXG
Код и веса прилагаются.
👍12🔥5❤2
22 Jun 2026, 08:22 UTC985 views7 reactionsread 7 August 2026 Photo
Написал статью с целью раскрыть вопрос в конце последнего поста - откуда берется ICL - насколько это представляется возможным.
https://uzooplatform.com/en/pages/icl-yavlyaetsya-svoistvom-struktury-estestvennogo-yazyka
Вся идея в общем-то на схеме. В статье, к сожалению, заметно больше математики, чем обычно, но без этого было никак. В ней, я бы сказал, удалось аналитически подойти еще ближе к тому обстоятельству, что…
🔥5👍2
16 Jun 2026, 12:51 UTC≈1,010 views14 reactionsread 7 August 2026 Принципы дизайна языковых моделей Искусственного Интеллекта не являются абсолютно новыми - аналогичные механизмы существуют в самом языке, и уже очень давно.
К такому выводу я пришел, обучая модели-эмбеддинги и MLP - то есть модели, с которых начиналось развитие LLM. Сначала я обучил простую, но исторически важную Word2Vec модель c архитектурой SkipGram. Эта модель, описанная в статье Efficient Estimation of Word Rep…
👍9🔥5
14 May 2026, 08:06 UTC≈1,130 views16 reactionsread 7 August 2026 Недавно я прочитал с интересом новости от компании Intel — что впервые за долгое время дела у них идут хорошо и даже есть что предложить в смысле AI-чипов, способных конкурировать с GPU от NVIDIA. CEO компании Лип-Бу Тан даже заявил, что CPU могут стать основным решением для AI-инференса в будущем, потому что лучше подходят для этого, хотя для обучения нейросетей GPU по-прежнему останутся главным железом. Мне сразу ж…
👍16
13 May 2026, 15:25 UTC≈1,020 views9 reactionsread 7 August 2026 По поводу прекращения поддержки файнтюнинга моделей OpenAI (см. официальную страницу deprecations) можно сказать одно — без этой функции OpenAI не является платформой для полноценного использования LLM. До этого дня файнтюнинг, пусть даже без доступа к самим весам, был единственной связью между разработчиком и моделью. В моей практике были случаи, когда сложная бизнес-задача не решалась иначе, как с помощью файнтюнин…
💯5❤2🔥2
1 May 2026, 16:37 UTC≈1,260 views21 reactionsread 7 August 2026 Для чего большим языковым моделям нужен декодер?
Работая с LLM и изучая их внутренние алгоритмы, я пришел к одному интересному сравнению, которое решил объяснить в этом посте. Как известно, эволюция языковых моделей шла от простейших N-граммных к нейросетям, оперирующим текстовыми эмбеддингами. Главные изменения касались того, как именно модель описывала вероятностное распределение данных. Вначале это была статистиче…
👍12❤3👀3🔥3
28 Apr 2026, 15:18 UTC≈1,350 views22 reactions2 Starsread 7 August 2026 Разобрал в моем новом видео, как задеплоить OpenClaw для реальной боевой автоматизации в продакшене.
https://youtu.be/TbWTTmSams8
Т.е. всё как у всех, но связка с LLM-эндпоинтом сделана как следует и защищена на уровне инфраструктуры - в моем видео я использовал публичный эндпоинт Qwen3 Coder Next на immers.cloud, но для обеспечения необходимой пропускной способности и безопасности данных ничто не мешает передать в к…
🔥15👍7
27 Mar 2026, 15:13 UTC≈1,440 views12 reactions26 Starsread 7 August 2026 Когда мы говорим про обучение LLM с нуля - pretraining - информации всегда не хватает. Знаете, на каких данных обучали модель GPT-3 шесть лет назад, а на каких обучают сейчас?
Но еще более интересные вопросы - чем эта эволюция обусловлена и что в действительности происходит при обучении модели в контексте распределения признаков, статистически представленных в наборе данных.
Об этом я написал новую статью:
https://p…
❤6👍5🆒1
23 Mar 2026, 07:05 UTC≈1,520 views21 reactions25 Starsread 7 August 2026 Всем привет, публикую причину моего молчания последних недель - статью о вопросах влияния AI на процесс познания:
AI может стать поворотным пунктом в методе познания — наравне с изобретением письменности
В ней речь идет о том, что роль AI выходит за прикладные рамки и является ключевой для будущего науки и системы человеческих знаний в целом. Также я разобрал возможные сценарии влияния AI на познание, один из которы…
🔥10❤6👍4🗿1
Showing the 12 most recent of 18 posts we hold for @ruslandevlive. View and reaction counts are the latest single reading for each post, not a live figure, and a recent post is still accumulating both. A view count marked ≈ was rounded by Telegram before we ever saw it — t.me prints views in full below 1,000 and to three significant figures above, so ≈1,200,000 means somewhere between 1,150,000 and 1,249,999. Unmarked counts are exact. Text is reproduced from the public post preview and truncated for length.