Paano magagamit ng Amazon ang na -customize na AWS chips upang makibalita sa Microsoft at Google sa patlang ng AI?
Ayon sa CNBC, ang koponan ng Amazon ay nagdidisenyo ng dalawang chips, codenamed inferentia at pagsasanay, para sa pagsasanay at pabilis na generative artipisyal na katalinuhan.Ang mga chips na ito ay nagbibigay ng isang alternatibong pagpipilian para sa mga serbisyo ng Amazon Cloud AWS na mga customer upang sanayin ang mga malalaking modelo ng wika sa halip na mga processors ng graphic na NVIDIA.Sa kasalukuyan, ang pagkuha ng mga GPU ay naging mahirap at mahal, at ang mga pasadyang chips na ito ay maaaring magbigay ng mga customer ng AWS ng mga alternatibong solusyon para sa pagsasanay ng mga malalaking modelo ng wika sa mga nvidia chips.
Sinabi ng CEO ng Amazon Cloud Technology na si Adam Selipsky noong Hunyo sa taong ito, "Inaasahan ng mundo na magkaroon ng mas maraming chips para sa pagbuo ng artipisyal na katalinuhan, maging ang mga GPU o self-developed na mga chips ng Amazon na aming dinisenyo
Gayunpaman, ang iba pang mga kumpanya ay gumawa ng mas mabilis na pagkilos at namuhunan ng mas maraming pondo upang makakuha ng negosyo mula sa alon ng generative artipisyal na katalinuhan.Nang ilunsad ni Openai ang CHATGPT noong Nobyembre noong nakaraang taon, ang Microsoft ay nakakuha ng malawak na pansin para sa mga chatbots nito at $ 13 bilyong pamumuhunan sa OpenAI.Mabilis na idinagdag ng kumpanya ang mga generative artipisyal na modelo ng katalinuhan sa mga produkto nito at pinagsama ang mga ito sa Bing noong Pebrero ng taong ito.
Sa parehong buwan, inilunsad ng Google ang sarili nitong malakihang modelo ng wika, Bard, at kasunod na namuhunan ng $ 300 milyon sa katunggali na si Anthropic.
Ito ay hindi hanggang Abril na inihayag ng Amazon ang paglulunsad ng sarili nitong malaking serye ng modelo ng wika (na tinatawag na Titan) at isang serbisyo sa Bedlock upang matulungan ang mga developer na gumamit ng generative AI enhancement software.
Ang Amazon ay hindi ginagamit upang habulin ang merkado.Ginagamit ang Amazon sa paglikha ng merkado.Sa palagay ko sa kauna -unahang pagkakataon sa isang mahabang panahon, natagpuan nila ang kanilang mga sarili sa isang kawalan at nagsusumikap upang makahabol, "sabi ni Chirag DeKate, bise presidente ng analyst sa Gartner.
Kamakailan lamang ay inilabas ni Meta ang sarili nitong mga pangunahing modelo ng Llama 2.Ang bukas na mapagkukunan na kakumpitensya ng CHATGPT ay maaari na ngayong masuri sa Azure Public Cloud ng Microsoft.
Ang mga chips ay 'totoong pagkita ng kaibhan'
Sinabi ni Dekate na sa katagalan, ang mga pasadyang chips ng Amazon ay maaaring magbigay ng kalamangan sa larangan ng generative artipisyal na katalinuhan,
Sa palagay ko ang tunay na pagkita ng kaibahan ay namamalagi sa mga teknikal na kakayahan na kanilang ipinapalagay, dahil ang Microsoft ay walang na -customize na mga chips para sa pagsasanay o inferentia
Tahimik na sinimulan ng AWS ang paggawa ng mga pasadyang chips nang maaga noong 2013, gamit ang isang dalubhasang hardware na tinatawag na Nitro, na ngayon ay ang pinakamahusay na nagbebenta ng AWS chip.Sinasabi ng Amazon na ang bawat AWS server ay may hindi bababa sa isa, na may kabuuang paggamit ng higit sa 20 milyon.
Noong 2015, nakuha ng Amazon ang Israeli Chip Startup Annapurna Labs.Noong 2018, inilunsad ng Amazon ang ARM based server chip graviton, na isang katunggali sa X86 CPUs mula sa mga higante tulad ng AMD at Intel.
Ang ARM ay maaaring account para sa isang mataas na solong digit o kahit na 10% ng kabuuang mga benta ng server, na may isang malaking bahagi na nagmula sa Amazon.Samakatuwid, mahusay ang ginagawa nila sa mga tuntunin ng CPU, "sabi ni Stacy Rasgon, senior analyst sa Bernstein Research.
Gayundin sa 2018, inilunsad ng Amazon ang mga chips na nakatuon sa artipisyal na katalinuhan.Dalawang taon na ang nakalilipas, inihayag ng Google ang paglulunsad ng una nitong Tensor Processor Unit (TPU).Hindi pa inihayag ng Microsoft na binubuo nito ang Athena AI chip, na naiulat na binuo sa pakikipagtulungan sa AMD.
Ipinaliwanag ni Matt Wood, Bise Presidente ng Amazon Products, ang mga gamit ng pagsasanay at inferentia chips.
Ang pag -aaral ng makina ay nahahati sa dalawang magkakaibang yugto.Samakatuwid, nagsasanay ka ng mga modelo ng pag-aaral ng makina at pagkatapos ay mas mababa ang mga sinanay na modelong ito, "sabi ni Wood. Kumpara sa anumang iba pang paraan ng mga modelo ng pag-aaral ng makina ng pagsasanay sa AWS, ang pagsasanay ay napabuti ang pagiging epektibo ng gastos sa pamamagitan ng humigit-kumulang 50%
Kasunod ng paglabas ng Inferentia noong 2019 (kasalukuyang nasa ikalawang henerasyon), ang pagsasanay ay unang inilunsad noong 2021.
Ang Inferentia "ay nagbibigay ng napakababang gastos, mataas na throughput, at mababang pag-aaral ng pag-aaral ng machine, na nangangahulugang kapag nag-input ka ng isang prompt sa isang generative artipisyal na modelo ng katalinuhan, ang lahat ng mga hula ay naproseso dito upang magbigay ng tugon," sabi ni Wood.
Gayunpaman, sa kasalukuyan, ang GPU ng NVIDIA ay pa rin ang hari sa mga tuntunin ng mga modelo ng pagsasanay.Noong Hulyo ng taong ito, inilunsad ng AWS ang isang bagong AI acceleration hardware na suportado ng NVIDIA H100.
Sinabi ni Rasgon, "Ang NVIDIA CHIPS ay may isang malaking ecosystem ng software, at sa nakalipas na 15 taon, ang software ecosystem na itinayo sa paligid nila ay walang kaparis ng iba pang mga kumpanya. Sa kasalukuyan, ang pinakamalaking nagwagi sa artipisyal na katalinuhan ay nvidia
Pag -agaw ng mga kalamangan sa ulap
Gayunpaman, ang pangingibabaw ng ulap ng AWS ay isang pangunahing kadahilanan ng pagkita ng kaibhan para sa Amazon.
Ang Amazon ay hindi nangangailangan ng anumang labis na pansin.Ang Amazon ay mayroon nang isang napakalakas na pundasyon ng pag -install ng ulap.Ang kailangan lang nilang gawin ay malaman kung paano paganahin ang mga umiiral na mga customer upang magamit ang generative artipisyal na katalinuhan upang mapalawak ang mga aktibidad sa paglikha ng halaga, "sabi ni DeKate.
Kapag pumipili ng generative artipisyal na katalinuhan sa pagitan ng Amazon, Google, at Microsoft, milyon -milyong mga customer ng AWS ang maaaring maakit sa Amazon dahil pamilyar na sila sa Amazon at nagpapatakbo ng iba pang mga aplikasyon at data ng tindahan doon.
Ipinaliwanag ni Mai Lan Tomsen Bukovec, Bise Presidente ng AWS Technology, "Ito ay isang katanungan ng bilis. Gaano kabilis ang mga kumpanyang itomagbigay upang himukin ito
Ayon sa data ng Gartner, ang AWS ang pinakamalaking cloud computing provider sa buong mundo, na may bahagi ng merkado na 40% noong 2022. Bagaman ang operating profit ng Amazon ay tumanggi sa taon-taon para sa tatlong magkakasunod na quarters, ang AWS ay nagkakaroon pa rin ng 70% ng $ 7.7 bilyon ng Amazon na $ 7.7 bilyonoperating profit sa ikalawang quarter.Mula sa isang makasaysayang pananaw, ang operating profit profit ng AWS ay mas mataas kaysa sa Google Cloud.
Bilang karagdagan, ang AWS ay mayroon ding pagtaas ng portfolio ng mga tool ng developer na nakatuon sa generative artipisyal na katalinuhan.Si Swami Sivasubramanian, bise presidente ng database, pagsusuri, at pag -aaral ng machine sa AWS, ay nagsabi, "Ibalik natin ang orasan, kahit na bago ang Chatgpt. Ito ay hindi tulad ng pagkatapos nito, bigla kaming sumugod sa isang plano dahil hindi ka maaaring magdisenyo ng bagoChip sa mabilis na iyon, hayaan lamang magtatag ng isang pangunahing serbisyo sa 2 hanggang 3 buwan
Ang Bedlock ay maaaring magbigay ng mga customer ng AWS ng pag -access sa mga malalaking modelo ng wika na binuo ng Antiopic, Stability AI, AI21 Labs, at Amazon Titan.Sinabi ni Sivasubramanian, "Hindi kami naniniwala na ang isang modelo ay mamuno sa mundo. Nais namin na ang aming mga customer ay magkaroon ng mga modelo ng state-of-the-art mula sa maraming mga supplier dahil pipiliin nila ang tamang mga tool para sa tamang trabaho
Ang isa sa pinakabagong mga artipisyal na produkto ng artipisyal na Amazon ay ang AWS HealthScribe, na inilunsad noong Hulyo at naglalayong tulungan ang mga doktor na magbuo ng mga pasyente na bisitahin ang mga buod gamit ang generative artipisyal na katalinuhan.Ang Amazon ay mayroon ding machine learning center na tinatawag na Sagemaker, na nagbibigay ng mga serbisyo tulad ng mga algorithm at modelo.
Ang isa pang mahalagang tool ay ang Codewhisperer, na sinabi ng Amazon ay nadagdagan ang bilis ng pagkumpleto ng gawain ng mga developer sa pamamagitan ng average na 57%.Noong nakaraang taon, iniulat din ng Microsoft na ang tool ng coding na GitHub Copilot ay napabuti ang kahusayan sa trabaho.
Noong Hunyo ng taong ito, inihayag ng AWS ang isang $ 100 milyong pamumuhunan upang maitaguyod ang isang generative artipisyal na Instrument Center Center.Si Adam Selipsky, CEO ng AWS, ay nagsabi, "Marami kaming mga kliyente na nais ng generative artipisyal na teknolohiya ng katalinuhan, ngunit maaaring hindi nila alam kung ano ang kahulugan nito sa kanila sa kanilang sariling konteksto ng negosyo. Samakatuwid, ipakikilala namin ang mga arkitekto ng solusyon, mga inhinyero, estratehiko,at mga siyentipiko ng data upang gumana sa kanila nang isa-sa-isa
Bagaman ang AWS ay higit na nakatuon sa pagbuo ng mga tool sa halip na pagbuo ng mga kakumpitensya para sa ChATGPT, ang isang kamakailan -lamang na leak na panloob na email ay nagpapakita na ang Amazon CEO na si Andy Jassy ay direktang nangangasiwa ng isang bagong sentral na koponan na nagtatayo din ng mga malalaking modelo ng wika.
Sa ikalawang quarter ng pinansiyal na tawag sa kumperensya ng ulat, sinabi ni Jia XI na ang isang "makabuluhang bahagi" ng negosyo ng AWS ay hinihimok ngayon ng artipisyal na katalinuhan at ang suporta nito para sa higit sa 20 mga serbisyo sa pag -aaral ng makina, kasama ang mga customer kabilang ang Philips, 3M, Old Mutual at HSBC.
Ang paputok na paglago ng artipisyal na katalinuhan ay nagdulot ng isang serye ng mga alalahanin sa seguridad, dahil nababahala ang mga kumpanya na isasama ng mga empleyado ang impormasyon ng pagmamay -ari sa data ng pagsasanay na ginamit sa karaniwang modelo ng malaking wika.
Sinabi ni Adam Selipsky, "Hindi ko masasabi sa iyo kung gaano karaming mga kumpanya ng Fortune 500 na nakontak ko ay hindi pinagana ang ChatGpt. Samakatuwid, sa pamamagitan ng aming mga generative na artipisyal na pamamaraan ng katalinuhan at mga serbisyo sa bedlock, anumang bagay na ginagawa mo at gagamitin sa pamamagitan ng Bedlock ay magiging sa iyong sariling independiyenteng pribadong pribadong kapaligiran sa ulap. Ito ay mai -encrypt at magkakaroon ng parehong AWS Access Control
Sa kasalukuyan, ang Amazon ay nagpapabilis lamang sa pagsulong ng generative artipisyal na katalinuhan, na inaangkin na ang mga customer na "higit sa 100000" ay kasalukuyang gumagamit ng pag -aaral ng makina sa AWS.Bagaman ito lamang ang nagkakaloob ng isang maliit na bahagi ng milyun -milyong mga customer ng AWS, sinabi ng mga analyst na maaaring magbago ang sitwasyong ito.
Hindi namin nakikita ang mga kumpanya na nagsasabing, 'O, maghintay ng isang minuto, ang Microsoft ay nangunguna na sa generative artipisyal na katalinuhan.Lumabas tayo at baguhin ang ating diskarte sa imprastraktura, paglipat ng lahat sa Microsoftware.Kung ikaw ay isang customer ng Amazon, malamang na galugarin mo ang ecosystem ng Amazon nang mas malawak. '