Embrace Imperfection: Cerebras

Тема побудови “embrace imperfection” систем, що враховують недоліки компонентів, мені цікава і як менеджеру, і як розробнику AI-агентів (що, якщо замислитися, одне й те саме :). Ось чергове, мабуть, успішне рішення. От би ще десь почитати про неуспішні.

https://www.cerebras.ai/whitepapers

TL;DR: Cerebras не бореться з дефектами на кристалі, а заздалегідь закладає їх в архітектуру, тому може використовувати цілу кремнієву пластину як один величезний чіп і отримати різке зростання продуктивності для ШІ та HPC.

• Замість спроби зробити ідеальний бездефектний чіп, Cerebras свідомо «приймає» дефекти: архітектура спроектована так, щоб частина ядер/ділянок могла бути несправною, а система все одно працювала.

• Такий підхід дає більш ніж у 100 разів більшу стійкість до збоїв на всій 300-мм пластині порівняно з набагато меншим GPU-чіпом.

• Це вирішує класичну проблему виходу придатних виробів при великих кристалах і вперше робить вафер-скейл процесор (чіп розміром з пластину) практичним.

• Результат — набагато швидші обчислення для навчання великих моделей, реал-тайм інференс та просування у наукових розрахунках.