IBM Cloud āđ€āļ›āđ‡āļ™āļœāļđāđ‰āđƒāļŦāđ‰āļšāļĢāļīāļāļēāļĢāļĢāļēāļĒāđāļĢāļāļ—āļĩāđˆāļ™āļģ Intel Gaudi 3 āļĄāļēāđƒāļŠāđ‰ āđ€āļžāļīāđˆāļĄāļ—āļēāļ‡āđ€āļĨāļ·āļ­āļāđāļĨāļ°āļ„āļ§āļēāļĄāļ„āļļāđ‰āļĄāļ„āđˆāļēāļŠāļģāļŦāļĢāļąāļš AI

āđ„āļ­āļšāļĩāđ€āļ­āđ‡āļĄ āđ„āļ”āđ‰āļāļĨāļēāļĒāđ€āļ›āđ‡āļ™āļœāļđāđ‰āđƒāļŦāđ‰āļšāļĢāļīāļāļēāļĢāļ„āļĨāļēāļ§āļ”āđŒāļĢāļēāļĒāđāļĢāļāļ—āļĩāđˆāđ€āļ›āļīāļ”āđƒāļŦāđ‰āļĨāļđāļāļ„āđ‰āļēāđ€āļ‚āđ‰āļēāļ–āļķāļ‡āļ•āļąāļ§āđ€āļĢāđˆāļ‡āļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨ AI āļĢāļļāđˆāļ™ IntelÂŪ GaudiÂŪ 3 āļ™āļąāļšāđ€āļ›āđ‡āļ™āļāļēāļĢāđ€āļ„āļĨāļ·āđˆāļ­āļ™āđ„āļŦāļ§āļŠāļģāļ„āļąāļāļ—āļĩāđˆāļ­āļ­āļāđāļšāļšāļĄāļēāđ€āļžāļ·āđˆāļ­āļ—āļģāđƒāļŦāđ‰āļ„āļ§āļēāļĄāļŠāļēāļĄāļēāļĢāļ–āļ”āđ‰āļēāļ™āļ›āļąāļāļāļēāļ›āļĢāļ°āļ”āļīāļĐāļāđŒāđ€āļ‚āđ‰āļēāļ–āļķāļ‡āđ„āļ”āđ‰āļ‡āđˆāļēāļĒāļ‚āļķāđ‰āļ™ āđāļĨāļ°āđ€āļžāļ·āđˆāļ­āļˆāļąāļ”āļāļēāļĢāļāļąāļšāļ›āļąāļāļŦāļēāđ€āļĢāļ·āđˆāļ­āļ‡āļ„āđˆāļēāđƒāļŠāđ‰āļˆāđˆāļēāļĒāļ—āļĩāđˆāļŠāļđāļ‡āļ‚āļ­āļ‡āļŪāļēāļĢāđŒāļ”āđāļ§āļĢāđŒ AI āđ‚āļ”āļĒāđ€āļ‰āļžāļēāļ°

āļŠāļģāļŦāļĢāļąāļš Intel āđāļĨāđ‰āļ§ āļāļēāļĢāđ€āļ›āļīāļ”āļ•āļąāļ§ Gaudi 3 āļšāļ™ IBM Cloud āļ–āļ·āļ­āđ€āļ›āđ‡āļ™āļāļēāļĢāļ™āļģ Gaudi 3 āļĄāļēāđƒāļŠāđ‰āļ‡āļēāļ™āđ€āļŠāļīāļ‡āļžāļēāļ“āļīāļŠāļĒāđŒāļ„āļĢāļąāđ‰āļ‡āđƒāļŦāļāđˆāļ„āļĢāļąāđ‰āļ‡āđāļĢāļ āļ‹āļķāđˆāļ‡āļ™āļģāđ€āļŠāļ™āļ­āļ—āļēāļ‡āđ€āļĨāļ·āļ­āļāđƒāļŦāļĄāđˆāđƒāļŦāđ‰āļāļąāļšāļ•āļĨāļēāļ” āļ”āđ‰āļ§āļĒāļāļēāļĢāđƒāļŠāđ‰āļ›āļĢāļ°āđ‚āļĒāļŠāļ™āđŒāļˆāļēāļ Intel Gaudi 3 āļšāļ™ IBM Cloud āļ—āļąāđ‰āļ‡āļŠāļ­āļ‡āļšāļĢāļīāļĐāļąāļ—āļĄāļĩāđ€āļ›āđ‰āļēāļŦāļĄāļēāļĒāļ—āļĩāđˆāļˆāļ°āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļĨāļđāļāļ„āđ‰āļēāļŠāļēāļĄāļēāļĢāļ–āļ—āļ”āļŠāļ­āļš āļŠāļĢāđ‰āļēāļ‡āļŠāļĢāļĢāļ„āđŒ āđāļĨāļ°āļ›āļĢāļąāļšāđƒāļŠāđ‰āđ‚āļ‹āļĨāļđāļŠāļąāļ™ GenAI āđ„āļ”āđ‰āļ­āļĒāđˆāļēāļ‡āļ„āļļāđ‰āļĄāļ„āđˆāļē

āļˆāļēāļāļ‚āđ‰āļ­āļĄāļđāļĨāļ„āļēāļ”āļāļēāļĢāļ“āđŒāļĨāđˆāļēāļŠāļļāļ”āļ‚āļ­āļ‡āļšāļĢāļīāļĐāļąāļ—āļ§āļīāļˆāļąāļĒ Gartner āļāļēāļĢāđƒāļŠāđ‰āļˆāđˆāļēāļĒāļ—āļąāđˆāļ§āđ‚āļĨāļāļ”āđ‰āļēāļ™ Generative AI (GenAI) āļ„āļēāļ”āļ§āđˆāļēāļˆāļ°āļŠāļđāļ‡āļ–āļķāļ‡ 6.44 āđāļŠāļ™āļĨāđ‰āļēāļ™āļ”āļ­āļĨāļĨāļēāļĢāđŒāļŠāļŦāļĢāļąāļāļŊ āđƒāļ™āļ›āļĩ 2568 āđ€āļžāļīāđˆāļĄāļ‚āļķāđ‰āļ™ 76.4% āļˆāļēāļāļ›āļĩ 2567 āļ‡āļēāļ™āļ§āļīāļˆāļąāļĒāļžāļšāļ§āđˆāļē “GenAI āļˆāļ°āļĄāļĩāļœāļĨāļāļĢāļ°āļ—āļšāļ—āļĩāđˆāđ€āļ›āļĨāļĩāđˆāļĒāļ™āđāļ›āļĨāļ‡āđƒāļ™āļ—āļļāļāđ† āļ”āđ‰āļēāļ™āļ‚āļ­āļ‡āļ•āļĨāļēāļ”āļāļēāļĢāđƒāļŠāđ‰āļˆāđˆāļēāļĒāļ”āđ‰āļēāļ™āđ„āļ­āļ—āļĩ āļ‹āļķāđˆāļ‡āļšāđˆāļ‡āļŠāļĩāđ‰āļ–āļķāļ‡āļ­āļ™āļēāļ„āļ•āļ—āļĩāđˆāđ€āļ—āļ„āđ‚āļ™āđ‚āļĨāļĒāļĩ AI āļˆāļ°āļĄāļĩāļ„āļ§āļēāļĄāļŠāļģāļ„āļąāļāļ•āđˆāļ­āļāļēāļĢāļ”āļģāđ€āļ™āļīāļ™āļ‡āļēāļ™āļ—āļēāļ‡āļ˜āļļāļĢāļāļīāļˆāđāļĨāļ°āļœāļĨāļīāļ•āļ āļąāļ“āļ‘āđŒāļŠāļģāļŦāļĢāļąāļšāļœāļđāđ‰āļšāļĢāļīāđ‚āļ āļ„āļĄāļēāļāļ‚āļķāđ‰āļ™āđ€āļĢāļ·āđˆāļ­āļĒāđ†”

āļŠāļģāļŦāļĢāļąāļšāļĨāļđāļāļ„āđ‰āļēāļ­āļ‡āļ„āđŒāļāļĢāļŦāļĨāļēāļĒāļĢāļēāļĒ āļ›āļĢāļ°āđ‚āļĒāļŠāļ™āđŒāļ—āļĩāđˆāđ„āļ”āđ‰āļĢāļąāļšāļ™āļąāđ‰āļ™āļŠāļąāļ”āđ€āļˆāļ™āđ€āļĄāļ·āđˆāļ­āđ€āļ„āļĢāļ·āđˆāļ­āļ‡āļĄāļ·āļ­āļ­āļĒāđˆāļēāļ‡ GenAI āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ‡āļēāļ™āđ€āļ›āđ‡āļ™āđ„āļ›āđ‚āļ”āļĒāļ­āļąāļ•āđ‚āļ™āļĄāļąāļ•āļī āļ›āļĢāļąāļšāļ›āļĢāļļāļ‡āļ‚āļąāđ‰āļ™āļ•āļ­āļ™āļāļēāļĢāļ—āļģāļ‡āļēāļ™ āđāļĨāļ°āļ‚āļąāļšāđ€āļ„āļĨāļ·āđˆāļ­āļ™āļ™āļ§āļąāļ•āļāļĢāļĢāļĄ āļ­āļĒāđˆāļēāļ‡āđ„āļĢāļāđ‡āļ•āļēāļĄ āļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āđāļ­āļ›āļžāļĨāļīāđ€āļ„āļŠāļąāļ™ AI āļ•āđ‰āļ­āļ‡āļāļēāļĢāļžāļĨāļąāļ‡āļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨāļ—āļĩāđˆāļŠāļģāļ„āļąāļ āļ‹āļķāđˆāļ‡āļĄāļąāļāļˆāļ°āļ•āđ‰āļ­āļ‡āđƒāļŠāđ‰āđ‚āļ›āļĢāđ€āļ‹āļŠāđ€āļ‹āļ­āļĢāđŒāļžāļīāđ€āļĻāļĐāļ—āļĩāđˆāļĄāļĩāļĢāļēāļ„āļēāđāļžāļ‡ āļ‹āļķāđˆāļ‡āļ­āļēāļˆāļ—āļģāđƒāļŦāđ‰āļ˜āļļāļĢāļāļīāļˆāļˆāļģāļ™āļ§āļ™āļĄāļēāļāđ„āļĄāđˆāļŠāļēāļĄāļēāļĢāļ–āđ„āļ”āđ‰āļĢāļąāļšāļ›āļĢāļ°āđ‚āļĒāļŠāļ™āđŒāļˆāļēāļ AI āđ„āļ”āđ‰

āļ•āļąāļ§āđ€āļĢāđˆāļ‡āļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨ AI āļĢāļļāđˆāļ™ Gaudi 3 āđ„āļ”āđ‰āļĢāļąāļšāļāļēāļĢāļ­āļ­āļāđāļšāļšāļĄāļēāđ‚āļ”āļĒāđ€āļ‰āļžāļēāļ°āđ€āļžāļ·āđˆāļ­āļŠāđˆāļ§āļĒāļ•āļ­āļšāļŠāļ™āļ­āļ‡āļ„āļ§āļēāļĄāļ•āđ‰āļ­āļ‡āļāļēāļĢāļ—āļĩāđˆāđ€āļžāļīāđˆāļĄāļ‚āļķāđ‰āļ™āļ­āļĒāđˆāļēāļ‡āļĢāļ§āļ”āđ€āļĢāđ‡āļ§āļŠāļģāļŦāļĢāļąāļš GenAI, Large Model Inferencing āđāļĨāļ° Model Fine-tuning āđƒāļ™āļ‚āļ“āļ°āļ—āļĩāđˆāļĒāļąāļ‡āļĢāļ­āļ‡āļĢāļąāļš Open Development Framework Gaudi 3 āļĒāļąāļ‡āđ€āļŦāļĄāļēāļ°āļŠāļģāļŦāļĢāļąāļš Multimodal Large Language Models (LLMs) āđāļĨāļ° Retrieval-Augmented Generation (RAG)

“āļ”āđ‰āļ§āļĒāļāļēāļĢāļ™āļģāļ•āļąāļ§āđ€āļĢāđˆāļ‡āļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨ AI āļĢāļļāđˆāļ™ Intel Gaudi 3 āļĄāļēāļŠāļđāđˆ IBM Cloud āđ€āļĢāļēāļāļģāļĨāļąāļ‡āļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ˜āļļāļĢāļāļīāļˆāļ•āđˆāļēāļ‡āđ† āļŠāļēāļĄāļēāļĢāļ–āļ‚āļĒāļēāļĒāļ‚āļ­āļšāđ€āļ‚āļ•āļ‡āļēāļ™ Generative AI āļ”āđ‰āļ§āļĒāļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļ—āļĩāđˆāđ€āļŦāļĄāļēāļ°āļŠāļĄāļ—āļĩāđˆāļŠāļļāļ”āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨāđāļĨāļ°āļāļēāļĢāļ›āļĢāļąāļšāđāļ•āđˆāļ‡āđ‚āļĄāđ€āļ”āļĨ” āļ™āļēāļĒ Saurabh Kulkarni āļĢāļ­āļ‡āļ›āļĢāļ°āļ˜āļēāļ™āļāđˆāļēāļĒāļāļĨāļĒāļļāļ—āļ˜āđŒ Data Center AI āļ‚āļ­āļ‡ Intel āļāļĨāđˆāļēāļ§ “āļ„āļ§āļēāļĄāļĢāđˆāļ§āļĄāļĄāļ·āļ­āļ™āļĩāđ‰āļ•āļ­āļāļĒāđ‰āļģāļ„āļ§āļēāļĄāļĄāļļāđˆāļ‡āļĄāļąāđˆāļ™āļĢāđˆāļ§āļĄāļāļąāļ™āļ‚āļ­āļ‡āđ€āļĢāļēāđƒāļ™āļāļēāļĢāļ—āļģāđƒāļŦāđ‰ AI āđ€āļ‚āđ‰āļēāļ–āļķāļ‡āđ„āļ”āđ‰āļ‡āđˆāļēāļĒāļ‚āļķāđ‰āļ™āđāļĨāļ°āļ„āļļāđ‰āļĄāļ„āđˆāļēāļŠāļģāļŦāļĢāļąāļšāļ­āļ‡āļ„āđŒāļāļĢāļ•āđˆāļēāļ‡āđ† āļ—āļąāđˆāļ§āđ‚āļĨā

IBM Cloud āđƒāļŦāđ‰āļšāļĢāļīāļāļēāļĢāļĨāļđāļāļ„āđ‰āļēāļ­āļ‡āļ„āđŒāļāļĢāļŦāļĨāļēāļāļŦāļĨāļēāļĒāļāļĨāļļāđˆāļĄ āđ‚āļ”āļĒāđ€āļ‰āļžāļēāļ°āļ­āļĒāđˆāļēāļ‡āļĒāļīāđˆāļ‡āđƒāļ™āļ­āļļāļ•āļŠāļēāļŦāļāļĢāļĢāļĄāļ—āļĩāđˆāļĄāļĩāļāļēāļĢāļ„āļ§āļšāļ„āļļāļĄ āđ€āļŠāđˆāļ™ āļšāļĢāļīāļāļēāļĢāļ—āļēāļ‡āļāļēāļĢāđ€āļ‡āļīāļ™, āļāļēāļĢāļ”āļđāđāļĨāļŠāļļāļ‚āļ āļēāļžāđāļĨāļ°āļ§āļīāļ—āļĒāļēāļĻāļēāļŠāļ•āļĢāđŒāđ€āļžāļ·āđˆāļ­āļŠāļĩāļ§āļīāļ• āđāļĨāļ°āļ āļēāļ„āļĢāļąāļ āļ˜āļ™āļēāļ„āļēāļĢāđāļĨāļ°āļšāļĢāļīāļĐāļąāļ—āļ›āļĢāļ°āļāļąāļ™āđƒāļŠāđ‰āļ„āļĨāļēāļ§āļ”āđŒāļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļ•āļĢāļ§āļˆāļˆāļąāļšāļāļēāļĢāļ‰āđ‰āļ­āđ‚āļāļ‡āļŦāļĢāļ·āļ­āļāļēāļĢāļšāļĢāļīāļāļēāļĢāļĨāļđāļāļ„āđ‰āļēāđāļšāļšāđ€āļ‰āļžāļēāļ°āļšāļļāļ„āļ„āļĨ āđƒāļ™āļ‚āļ“āļ°āļ—āļĩāđˆāļœāļđāđ‰āđƒāļŦāđ‰āļšāļĢāļīāļāļēāļĢāļ”āđ‰āļēāļ™āļāļēāļĢāļ”āļđāđāļĨāļŠāļļāļ‚āļ āļēāļžāđƒāļŠāđ‰āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāđ€āļĢāđˆāļ‡āļāļēāļĢāļ„āđ‰āļ™āļ„āļ§āđ‰āļēāđāļĨāļ°āļžāļąāļ’āļ™āļēāļĒāļē, āļāļēāļĢāļ§āļīāļ™āļīāļˆāļ‰āļąāļĒāļ—āļĩāđˆāļ‚āļąāļšāđ€āļ„āļĨāļ·āđˆāļ­āļ™āļ”āđ‰āļ§āļĒ AI, āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļāļēāļĢāđāļžāļ—āļĒāđŒāļ—āļēāļ‡āđ„āļāļĨ āđāļĨāļ°āļāļēāļĢāļ•āļīāļ”āļ•āļēāļĄāļœāļđāđ‰āļ›āđˆāļ§āļĒāđāļšāļšāđ€āļĢāļĩāļĒāļĨāđ„āļ—āļĄāđŒ āļœāļđāđ‰āļ„āđ‰āļēāļ›āļĨāļĩāļāđƒāļŠāđ‰āđ€āļ—āļ„āđ‚āļ™āđ‚āļĨāļĒāļĩāļ„āļĨāļēāļ§āļ”āđŒāļŠāļģāļŦāļĢāļąāļšāđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļ­āļĩāļ„āļ­āļĄāđ€āļĄāļīāļĢāđŒāļ‹āļŦāļĢāļ·āļ­āļāļēāļĢāļˆāļąāļ”āļāļēāļĢāļŠāļīāļ™āļ„āđ‰āļēāļ„āļ‡āļ„āļĨāļąāļ‡ āļ™āļ­āļāļˆāļēāļāļ™āļĩāđ‰āļĒāļąāļ‡āđ€āļ›āđ‡āļ™āļ•āļąāļ§āđ€āļĨāļ·āļ­āļāļŠāļģāļŦāļĢāļąāļšāļšāļĢāļīāļĐāļąāļ—āļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāļ›āļĢāļąāļšāļ›āļĢāļļāļ‡āļĢāļ°āļšāļšāđ€āļāđˆāļēāđƒāļŦāđ‰āļ—āļąāļ™āļŠāļĄāļąāļĒāđ‚āļ”āļĒāđ„āļĄāđˆāļŠāļđāļāđ€āļŠāļĩāļĒāļāļēāļĢāļ„āļ§āļšāļ„āļļāļĄāļŦāļĢāļ·āļ­āļ„āļ§āļēāļĄāļ›āļĨāļ­āļ”āļ āļąāļĒ

Gaudi 3 āļžāļĢāđ‰āļ­āļĄāđƒāļŦāđ‰āļšāļĢāļīāļāļēāļĢāđāļĨāđ‰āļ§āđƒāļ™āļ āļđāļĄāļīāļ āļēāļ„āļ‚āļ­āļ‡ IBM Cloud āđ„āļ”āđ‰āđāļāđˆ āđāļŸāļĢāļ‡āļāđŒāđ€āļŸāļīāļĢāđŒāļ• āļ›āļĢāļ°āđ€āļ—āļĻāđ€āļĒāļ­āļĢāļĄāļ™āļĩ; āļ§āļ­āļŠāļīāļ‡āļ•āļąāļ™ āļ”āļĩ.āļ‹āļĩ.; āđāļĨāļ°āļ”āļąāļĨāļĨāļąāļŠ āļĢāļąāļāđ€āļ—āđ‡āļāļ‹āļąāļŠ Gaudi 3 āļĒāļąāļ‡āļ–āļđāļāļĢāļ§āļĄāđ€āļ‚āđ‰āļēāļāļąāļšāļ‚āđ‰āļ­āđ€āļŠāļ™āļ­āđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡āļžāļ·āđ‰āļ™āļāļēāļ™ AI āļ—āļĩāđˆāļāļ§āđ‰āļēāļ‡āļ‚āļ§āļēāļ‡āļ‚āļ­āļ‡ IBM āļĨāļđāļāļ„āđ‰āļēāļŠāļēāļĄāļēāļĢāļ–āđƒāļŠāđ‰ Gaudi 3 āļœāđˆāļēāļ™ IBM Cloud Virtual Servers āļšāļ™ IBM Virtual Private Cloud (VPC) āđ„āļ”āđ‰āđāļĨāđ‰āļ§ āļĨāļđāļāļ„āđ‰āļēāļˆāļ°āļŠāļēāļĄāļēāļĢāļ–āļ›āļĢāļąāļšāđƒāļŠāđ‰āļ‚āđ‰āļēāļĄāļŠāļ–āļēāļ›āļąāļ•āļĒāļāļĢāļĢāļĄāđ„āļ”āđ‰āđ€āļĢāļīāđˆāļĄāļ•āļąāđ‰āļ‡āđāļ•āđˆāļ„āļĢāļķāđˆāļ‡āļŦāļĨāļąāļ‡āļ‚āļ­āļ‡āļ›āļĩ 2568 āđ€āļ›āđ‡āļ™āļ•āđ‰āļ™āđ„āļ› āļ„āļēāļ”āļ§āđˆāļēāļˆāļ°āļĄāļĩāļāļēāļĢāļĢāļ­āļ‡āļĢāļąāļš Red Hat OpenShift āđāļĨāļ°āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄ AI watsonx āļ‚āļ­āļ‡ IBM āđƒāļ™āđ„āļ•āļĢāļĄāļēāļŠāļ™āļĩāđ‰

“āļ„āļ§āļēāļĄāļŠāļēāļĄāļēāļĢāļ–āđƒāļ™āļāļēāļĢāļˆāļąāļ”āļāļēāļĢāļ‚āđ‰āļ­āļĄāļđāļĨāļˆāļģāļ™āļ§āļ™āļĄāļēāļ āđāļĨāļ°āļĄāļĩāļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļŠāļđāļ‡āļ‚āļķāđ‰āļ™ āļ—āļąāđ‰āļ‡āļŦāļĄāļ”āļ™āļĩāđ‰āļˆāļ°āļŠāđˆāļ§āļĒāļ‚āļąāļšāđ€āļ„āļĨāļ·āđˆāļ­āļ™āļāļēāļĢāļ™āļģ AI āđ„āļ›āđƒāļŠāđ‰āđ„āļ”āđ‰āļ”āļĩāļĒāļīāđˆāļ‡āļ‚āļķāđ‰āļ™āļŠāļģāļŦāļĢāļąāļšāļĨāļđāļāļ„āđ‰āļēāļ—āļąāđˆāļ§āđ‚āļĨā āļ™āļēāļĒ Satinder Sethi āļœāļđāđ‰āļˆāļąāļ”āļāļēāļĢāļ—āļąāđˆāļ§āđ„āļ›āļāđˆāļēāļĒāļšāļĢāļīāļāļēāļĢāđ‚āļ„āļĢāļ‡āļŠāļĢāđ‰āļēāļ‡āļžāļ·āđ‰āļ™āļāļēāļ™ IBM Cloud āļāļĨāđˆāļēāļ§ “Intel Gaudi 3 āļĄāļ­āļšāļ—āļēāļ‡āđ€āļĨāļ·āļ­āļāļ—āļĩāđˆāļĄāļēāļāļ‚āļķāđ‰āļ™ āļ­āļīāļŠāļĢāļ°āļ—āļĩāđˆāļĄāļēāļāļ‚āļķāđ‰āļ™ āđāļĨāļ°āđāļžāļĨāļ•āļŸāļ­āļĢāđŒāļĄāļŪāļēāļĢāđŒāļ”āđāļ§āļĢāđŒ AI āļ—āļĩāđˆāļ„āļļāđ‰āļĄāļ„āđˆāļēāļĄāļēāļāļ‚āļķāđ‰āļ™āļŠāļģāļŦāļĢāļąāļšāļĨāļđāļāļ„āđ‰āļēāļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™”

Gaudi 3

āļāļēāļĢāđ€āļ›āļĢāļĩāļĒāļšāđ€āļ—āļĩāļĒāļšāļ•āđ‰āļ™āļ—āļļāļ™āđāļĨāļ°āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļž

āļ•āļąāļ§āđ€āļĢāđˆāļ‡āļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨ AI āļĢāļļāđˆāļ™ Intel Gaudi 3 āđ„āļ”āđ‰āļĢāļąāļšāļāļēāļĢāļ­āļ­āļāđāļšāļšāļĄāļēāđ€āļžāļ·āđˆāļ­āđāļāđ‰āđ„āļ‚āļ›āļąāļāļŦāļēāļ”āđ‰āļēāļ™āļ•āđ‰āļ™āļ—āļļāļ™āļ”āđ‰āļ§āļĒāļāļēāļĢāļŠāļĢāđ‰āļēāļ‡āļŠāļĄāļ”āļļāļĨāļĢāļ°āļŦāļ§āđˆāļēāļ‡āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāđāļĨāļ°āļĢāļēāļ„āļē āļāļēāļĢāļ—āļ”āļŠāļ­āļšāđ€āļ›āļĢāļĩāļĒāļšāđ€āļ—āļĩāļĒāļšāļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨ AI āļĨāđˆāļēāļŠāļļāļ”āļ—āļĩāđˆāļ”āļģāđ€āļ™āļīāļ™āļāļēāļĢāđ‚āļ”āļĒāļšāļĢāļīāļĐāļąāļ—āļ§āļīāļˆāļąāļĒ Signal65 āđāļĨāļ°āđ„āļ”āđ‰āļĢāļąāļšāļĄāļ­āļšāļŦāļĄāļēāļĒāļˆāļēāļ Intel āļžāļšāļ§āđˆāļē Gaudi 3 āļĄāļĩāļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļ”āđ‰āļēāļ™āļ•āđ‰āļ™āļ—āļļāļ™ (āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļ•āđˆāļ­āļ”āļ­āļĨāļĨāļēāļĢāđŒ) āļ”āļĩāļāļ§āđˆāļēāļ„āļđāđˆāđāļ‚āđˆāļ‡āļ–āļķāļ‡ 92% āđ€āļĄāļ·āđˆāļ­āļĢāļąāļ™āļšāļ™āđ‚āļĄāđ€āļ”āļĨ Llama-3.1-405B-Instruct-FP8 āļ‚āļ­āļ‡ Meta āļ—āļĩāđˆāļĄāļĩāļ‚āļ™āļēāļ”āļ„āļ­āļ™āđ€āļ—āđ‡āļāļ‹āđŒāđƒāļŦāļāđˆ

āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļ”āđ‰āļēāļ™āļ•āđ‰āļ™āļ—āļļāļ™āđ€āļ›āđ‡āļ™āļ•āļąāļ§āļŠāļĩāđ‰āļ§āļąāļ”āļ—āļĩāđˆāļŠāļģāļ„āļąāļ āđ€āļ™āļ·āđˆāļ­āļ‡āļˆāļēāļāļŠāđˆāļ§āļĒāđƒāļŦāđ‰āļ˜āļļāļĢāļāļīāļˆāļŠāļēāļĄāļēāļĢāļ–āļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨ AI āđ„āļ”āđ‰āļĄāļēāļāļ‚āļķāđ‰āļ™āļ”āđ‰āļ§āļĒāļāļēāļĢāļĨāļ‡āļ—āļļāļ™āđ€āļ—āđˆāļēāđ€āļ”āļīāļĄ āļŦāļĢāļ·āļ­āļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨāļˆāļģāļ™āļ§āļ™āđ€āļ—āđˆāļēāđ€āļ”āļīāļĄāļ”āđ‰āļ§āļĒāļ•āđ‰āļ™āļ—āļļāļ™āļ—āļĩāđˆāļ•āđˆāļģāļĨāļ‡ āļāļēāļĢāđ€āļžāļīāđˆāļĄāļ‚āļķāđ‰āļ™āļ‚āļ­āļ‡āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļĄāļĩāļ§āļąāļ•āļ–āļļāļ›āļĢāļ°āļŠāļ‡āļ„āđŒāđ€āļžāļ·āđˆāļ­āļĨāļ”āļ­āļļāļ›āļŠāļĢāļĢāļ„āļ”āđ‰āļēāļ™āļ•āđ‰āļ™āļ—āļļāļ™āļŠāļģāļŦāļĢāļąāļšāļšāļĢāļīāļĐāļąāļ—āļ—āļĩāđˆāļ•āđ‰āļ­āļ‡āļāļēāļĢāļ›āļĢāļąāļšāđƒāļŠāđ‰āļŦāļĢāļ·āļ­āļ›āļĢāļąāļšāđāļ•āđˆāļ‡āđ‚āļĄāđ€āļ”āļĨ āđ‚āļ”āļĒāđ€āļ‰āļžāļēāļ°āļ­āļĒāđˆāļēāļ‡āļĒāļīāđˆāļ‡āđ€āļĄāļ·āđˆāļ­āļāļēāļĢāļ™āļģ GenAI āļĄāļēāđƒāļŠāđ‰āđāļžāļĢāđˆāļŦāļĨāļēāļĒāļĄāļēāļāļ‚āļķāđ‰āļ™

āļ›āļĢāļ°āļŠāļīāļ—āļ˜āļīāļ āļēāļžāļŦāļĢāļ·āļ­ Throughput āļŦāļĄāļēāļĒāļ–āļķāļ‡āļ›āļĢāļīāļĄāļēāļ“āļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨ AI āļ—āļĩāđˆāļ•āļąāļ§āđ€āļĢāđˆāļ‡āļŠāļēāļĄāļēāļĢāļ–āļ—āļģāđ„āļ”āđ‰āđƒāļ™āđāļ•āđˆāļĨāļ°āļŠāđˆāļ§āļ‡āđ€āļ§āļĨāļē āļŦāļĢāļ·āļ­āļ—āļĩāđˆāđ€āļĢāļĩāļĒāļāļ§āđˆāļē Tokens per second Gaudi 3 āđƒāļŦāđ‰āļ„āļ§āļēāļĄāđ€āļĢāđ‡āļ§āđƒāļ™āļāļēāļĢāļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨ AI āļ—āļĩāđˆāđ€āļĢāđ‡āļ§āļāļ§āđˆāļēāļ„āļđāđˆāđāļ‚āđˆāļ‡āļ­āļĒāđˆāļēāļ‡āļĄāļēāļ āļšāļ™āđ‚āļĄāđ€āļ”āļĨ IBM Granite-3.1-8B-Instruct, Gaudi 3 āđƒāļŦāđ‰ Tokens per second āļĄāļēāļāļāļ§āđˆāļē 43% āļŠāļģāļŦāļĢāļąāļšāđ€āļ§āļīāļĢāđŒāļ„āđ‚āļŦāļĨāļ” AI āļ‚āļ™āļēāļ”āđ€āļĨāđ‡āļ āđāļĨāļ°āļĄāļēāļāļāļ§āđˆāļē 36% āļ”āđ‰āļ§āļĒāļ‚āļ™āļēāļ”āļ„āļ­āļ™āđ€āļ—āđ‡āļāļ‹āđŒāđƒāļŦāļāđˆāđ€āļĄāļ·āđˆāļ­āđ€āļ—āļĩāļĒāļšāļāļąāļšāļ„āļđāđˆāđāļ‚āđˆāļ‡āđ€āļĄāļ·āđˆāļ­āļĢāļąāļ™āđ‚āļĄāđ€āļ”āļĨ Llama-3.1-405B-Instruct-FP8 āļ‚āļ­āļ‡ Meta

āļ‚āđ‰āļ­āļĄāļđāļĨāđ€āļžāļīāđˆāļĄāđ€āļ•āļīāļĄ Intel News Room

Scroll to Top