Sohu в 20 раз мощнее Nvidia H100, при этом он быстрее и дешевле! Для понимания: GPT-4 тренировали на 8 тысячах H100, а с Sohu хватило бы всего 400 чипов.
Скорость генерации впечатляет — 500 тысяч токенов в секунду. Для воспроизведения Библии нейросетям теперь понадобится всего 2 секунды.
Этот успех достигнут благодаря узкой специализации: чипы работают исключительно с моделями-трансформерами, такими как ChatGPT, Claude, Sora и другие популярные нейросети.
Nvidia больше не на вершине, а мы с нетерпением ждём GPT-5 в этом году.
Мы в VK: https://vk.com/darkwebex
