Жанр: № 44 в Книги о компьютерах, № 50 в Компьютерная справочная литература, № 41 в Информационная безопасность
Теги: #сша, #нейронные сети
DeepSeek также выпустила DeepSeek-V3, модель Mixture-of-Experts (MoE) с 671B параметрами, из которых 37B активированы для каждого токена. Модель использует Multi-head Latent Attention (MLA) и архитектуру DeepSeekMoE для эффективного вывода и экономичной обучения. DeepSeek-V3 была предварительно обучена на 14,8 триллионах разнообразных и высококачественных токенов, за которыми следовали этапы контролируемой доработки и обучения с подкреплением, чтобы полностью использовать ее возможности. Оценки показывают, что DeepSeek-V3 превосходит другие модели с открытым исходным кодом и достигает производительности, сопоставимой с ведущими закрытыми моделями, при этом для полного обучения требуется всего 2,788M часов H800 GPU.
На нашем сайте вы можете скачать книгу "DeepSeek v3 – как Китай нагнул США" Ранас Мукминов в формате pdf, читать книгу онлайн или купить книгу в интернет-магазине.
