NVIDIA анонсувала прискорювач H100 NVL з двома процесорами GH100 для ChatGPT та нейромереж

NVIDIA aнoнсувaлa прискoрювaч H100 NVL. Цe здвoєнa мoдифікaція H100 зі збільшeним oб’ємoм тa прoпускнoю здaтністю пaм’яті. Він рoзрaxoвaний пользу кого рoбoти вeликиx мoвниx мoдeлeй, бери кшталт сімейства GPT від компанії OpenAI,

Прискорювач NVIDIA H100 NVL фактично є двома картами розширення PCI Express 5.0 x16, об’єднаними вслед допомогою інтерфейсу NVLink (600 Гбайт/с). У сервері такий пристрій займе чотири слоти. Кожна половинка виконана для 4-нм процесорі GH100, характеризується максимальним TDP 350-400 Вт та забезпечує обчислювальну потужність рівня SXM-версії H100.

Але головною особливістю прискорювача є підсистемі пам’яті. У новому варіанті процесора GH100 деятельно шість стеків багатошарової пам’яті HBM3, тоді як випущені раніше версії були обмежені п’ятьма. Це отнюдь не лише збільшило обсяг грудь, але й підвищило його пропускну здатність. Реліз Nvidia H100 NVL заплановано получи и распишись другу половину цього року.

Прежде слова, OpenAI офіційно презентувала нову натура штучного інтелекту GPT-4 для чат-боту ChatGPT. Раніше у ChatGPT використовувалася версія GPT-3.5.

Різниця з GPT-4 тонка і приставки не- завжди явна, оскільки ШІ целое ще має певні обмеження, але можливості нової моделі безумовно ширші. Оновлена версія ШІ точніше у відповідях та більш «творча». Вона дійсно мультимодальна, як згадувалося   раніше, але меншою мірою.

Нейромережа може сприймати конферанс і зображення, але видає відповіді лише у текстовій формі. GPT-4 вміє аналізувати зображення с целью складних інтерпретацій та опису зображеного. Компания пройшла шестимісячний курс навчання к підвищення безпеки, і тепер ймовірність відповідей для заборонений контент нижче получай 82%. Також згадується, що точність надання фактичних даних вища получи 40%.

Комментирование и размещение ссылок запрещено.

Комментарии закрыты.