AI: n irrottaminen tekoälystä miettii Von Neumannin arkkitehtuuria tekoälyn päättelykiihdytinkorteille

TsunAImi-kiihdytinkorteissa käytettävät run200AI-laitteet on suunniteltu laskemaan tavanomaisen Von Neumann -arkkitehtuurin sijaan, joka on suunniteltu datan siirtämiseen. Käsittelyelementti sijaitsee muistin sisällä hajautetun käsittelyryhmän luomiseksi.

RunAI200-laitteet käyttävät kokonaislukutietotyyppejä ja erätilaa 1. Muistipankissa on 385 kt tavua SRAM-muistia ja 2D-ryhmän 512 käsittelyelementtiä. Sirua kohti on 511 pankkia, jotka yhdessä tuottavat 200 megatavua laitetta kohti. Toiminta on enintään 502 TOPS 'sport' -tilassa. Määritetty ”eco” -tilassa, se tarjoaa 8TOPS: ää.

Kiihdytinkortin laskentateho tarkoittaa yli 80 000 kuvaa sekunnissa ResNet-50 v 1.5 -suorituskykyä erässä = 1, tai kolme kertaa lähimmän kilpailijansa läpäisykyky, kertoo yritys. Eräässä toisessa vertailutestissä kiihdytinkortit voivat luonnollisen kielen käsittelyä varten käsitellä yli 12 000 kyselyä sekunnissa BERT-pohjasta, kertoo yritys. Tämä on neljä kertaa nopeampi kuin mikään ilmoitettu tuote, siinä sanotaan.

RunAI200-laitteet valmistetaan kustannustehokkaalla 16 nm: n prosessilla.

Tehtävä tekoäly on tärkeä osa datakeskuksia, joissa sen laskentatiheys nopeuttaa älykkäiden kaupunkien ja muiden tekoäly- ja koneoppimissovellusten suorituskykyä.

TsunAImi-kiihdytinkortti on vakiomuotoinen PCI Express -kortti käytettäväksi pilvessä tai palvelimissa. Se tukee avointa TensorFlow- ja PyTorch-ohjelmistoa koneoppimiseen.

Kiihdytinkortin mukana tulee Untether AI imAIgine -ohjelmistokehityspaketti (SDK), jossa on painikkeita, optimointi, fyysinen allokointi ja monisiruinen osiointi. Se tarjoaa myös visualisointityökalut, syklitarkan simulaattorin ja ajonaikaisen API: n integrointia varten.

TsunAImi-kiihdytinkortti on nyt näytteenotto, ja se on kaupallisesti saatavilla vuoden 201 ensimmäisellä vuosineljänneksellä. ImAIgine SDK on saatavana varhaisessa vaiheessa valittujen asiakkaiden ja kumppaneiden kanssa.