Elämän parhaita asioita ei skaalata

Tekniikan suurimmat sanat epäonnistuvat, koska ne eivät vain mittakaavassa ole.

Kun innovoimme nopeasti uudella tekniikalla, meidän on pidettävä mielessä, ovatko innovaatiomme käytännöllisiä ja toteutettavissa olevia. Maailmassa, jossa lasketaan käyttäjiä tuhansina ja käyttöaika millisekunnina, on tärkeämpää kuin koskaan varmistaa uusien teknisten asteikkojen saatavuus.

Siksi on järkyttävää, että tekniikan kolme suurinta buzz -sanaa eivät täysin mittakaavassa ole.

Puhun tietenkin kolmesta kategoriasta, joihin näennäisesti jokainen tekninen uutinen kuuluu nykyään:

  1. Tekoäly
  2. Blockchain
  3. Sekoitettu todellisuus (XR, AR / VR)

Näyttää siltä, ​​että melkein kaikki joko käyttää tai lisää näitä, ja silti on hullua, kuinka tuskallinen (ja täysin mahdoton) näiden palvelujen skaalaaminen on.

Tarvitsemme lisää laitteistoa

Ensimmäinen ja tärkein puutteellisuus on edelleen laitteisto. Ei ole mikään salaisuus, että tekniikan laitteistovaatimukset kasvavat eksponentiaalisesti vuosi vuodelta, sekä hinnassa että erittelyssä. Tästä on käytännössä tulossa esto laajalle levinneelle adoptiolle, ja blockchain-tapauksessa se on tappaja.

Blockchain luottaa yleensä ”kaivostyökaluihin”, jotka “kaivokset” estävät ja sallivat verkon suorittaa kaikkein perustoiminnallisimmat tehtävät (ts. Todentaa tapahtumat). "Kaivostoiminnan" prosessi on asia, jota en syventä syvästi, mutta siihen sisältyy suurten salaustoimintojen suorittaminen, prosessi, joka tunnetaan nimellä "hajauttaminen".

Hajauttamisen ongelmana on, että se vaatii huomattavan määrän laskentatehoa; itse asiassa niin suuri määrä, joka louhii tehokkaasti lohkoketjussa, vaatii erityistä laitteistoa, joko GPU: ta tai ASIC: ta. Jotta pieninkin kaivosmies olisi, tarvitset korkeatasoisen GPU: n (olkoon todellinen, Intel HD Graphics on tällä hetkellä kuluttajastandardi, joten käytännössä jokainen GPU: n yläpuolella, joka on korkeatasoinen) tai erillisen ASIC: n. Tämä kerää melko suuren laskun, ja suurin osa laitteista hinnoitellaan sadoista tuhansiin dollareihin yksikköä kohti, lukuun ottamatta suurta sähkönkulutusta, jota pidetään toimintakustannuksina.

vuoden 2018 suuri GPU-pula

Tämä on osoittautunut merkittäväksi, estäväksi tekijäksi blockchain-omaksumisessa. Itse asiassa juuri tästä syystä GPU: n hinnat nousivat nopeasti ja varastot loppuivat kokonaan, joten mahdolliset kaivostyöläiset jäivät käyttämättä työkaluja, kaatuivat PC-peliteollisuutta ja estävät tutkijoita pääsemästä huippuluokan laitteisiin. Jopa Nvidian kaltaiset GPU-valmistajat, jotka ovat hyötyneet noususta, ovat viime kädessä ilmaisseet vakavan pulan suorana syynä blockchainiin.

Vuotta myöhemmin suurin osa näistä blockchain-tekniikoista on kadonnut, ja tärkeimpien kryptovaluuttojen hinnat ovat pudonneet neljännekseen niiden arvosta. Laajimmin huolestunut blockchain-huolenaiheista on sen mittakaavan epäonnistuminen, ja laitteisto pysyy (ja tulee olemaan edelleen) esteenä blockchain-tekniikan skaalaamisessa.

Tämä ongelma ei kuitenkaan rajoitu lohkoketjuun. Keinotekoinen älykkyys perustuu samaan laitteistoon (GPU), ja siitä on tulossa esto myös tällä alalla; useimmilla tulevilla startup-yrityksillä ei ole varaa rakentaa valtavaa GPU-tilaa, kuten Googlen, ja laskentatehon ostaminen AWS: n kaltaisilta pilvipalveluntarjoajilta tapahtuu 4-kertaisella hinnankorotuksella, joka kerää valtavan palvelinlaskun.

XR: n myötä asia on entistä kiihkeämpää. Näiden kokemusten suorittamiseksi kuluttajien on tuotettava visuaalinen kuva, ja kuluttajan laitteen on käsiteltävä aistituloa. Tämä asettaa taakan lähinnä kuluttajalle, mikä kuulostaa hyvältä yrityksille, jotka haluavat päästä XR-tilaan, mutta aiheuttaa suuren ongelman skaalaamisessa.

Otetaan esimerkiksi Oculus VR. Oculus oli yksi ensimmäisistä VR-kuulokkeista, jotka lanseerattiin, ja on edelleen suosittu nimi alalla, jonka jälkeen Facebook on hankkinut sen ja vahvistanut paikkansa markkinoilla.

Naurettavan korkea

Valitettavasti Oculus toimii melkein yksinomaan pöytätietokoneissa, mikä vaatii lisäksi korkeat GPU-tekniset tiedot. Se kohtaa samat sudenkuopat kuin blockchain ja AI, mutta paljon suuremmilla huolenaiheilla: kun taas AI: n kanssa yritys voi vain heittää rahaa infrastruktuuriinsa väliaikaisesti ongelman ratkaisemiseksi, XR: n kanssa taakka laskee kuluttajille. AR / VR: n käyttöönottovaihe perustuu siihen, että kuluttajien GPU: t ovat yleistyneet ja niiden määritelmät ovat korkeammat, ja odotetaan hintojen laskevan keskimääräisen käyttäjän kohtuuhintaisille tasoille. Se on prosessi, joka voi viedä vuosikymmeniä - vaikka Nvidian toimitusjohtaja Jensen Huang julistaa Mooren lain suosivan GPU: ta, aika, joka tarvitaan riittävälle kehitykselle, jota tarvitaan teknisten tietojen nostamiseen ja hintojen laskemiseen, on kuitenkin edelleen useita vuosia.

Teknologian kolmelle suurimmalle buzz-sanalle se on kirottava lause.

runtime

Kun puhumme suoritusajasta laskennassa, tarkoitamme yleensä millisekuntina, kun käyttäjät ovat kasvaneet odottamaan välittömiä vuorovaikutuksia.

Valitettavasti näin ei ole lainkaan kaikissa edellä mainituissa tekniikoissa.

Lohkoketjulla yhden lohkon louhinta vie pidempään ja pidempään ajan kuluessa. Se on saatu siihen pisteeseen, että ihmisille ei enää ole kannattavaa kaivata suuria kryptovaluuttoja, ja kaivos-altaat ovat alkaneet kutsua kuvaa verkossa. "Hajautetulle" tekniikalle se suosii kovin paljon keskittämistä.

Se myös merkitsee tuomion lohkoketjun (väitetysti) suurimpaan käyttötapaukseen: salausvaluuttaan. Cryptocurrency menestyy nopeissa liiketoimissa ilman keskitettyjä viranomaisia, rajojen yli ja ilman suuria maksuja.

Koska lohkoketjun mittakaava epäonnistui ja lohkon kaivokseen tarvittava aika (aika = sähkö) tarvitsi, transaktioihin liittyvät maksut nousivat ennätyksellisen korkeiksi; huipussaan Bitcoin saavutti pisteen, jossa useimpiin pieniin transaktioihin liittyvät maksut olivat suuremmat kuin todelliset transaktiokustannukset, joten se oli täysin hyödytön ja täydellinen epäonnistuminen päivittäisille kuluttajille. Kaupat alkoivat kestää tunteja, ja sääntelyn karkaantumisen seurauksena nouseva Bitcoinin hinta vaikeutti Bitcoinin siirtämistä yli rajojen.

Salausvaluutasta tuli kaikki se, mitä se lupautui tuhoamaan.

Kun tehdään älykkyys, nousee esiin hyvin erilainen kysymys. Monien suurten mallien päästöaika vie useita sekunteja, mikä kuulostaa pieneltä ajalta, mutta alkaa koota ja siitä tulee estohahmo, kun keskustelemme tuhansista käyttäjän tietokannoista.

Lisäksi useimpien mallien päätelmäaikataulut ovat hankalia - joudut lukemaan rivien välillä tai pikemminkin seuraavalle riville, joka lukee yleensä ”sellaisena kuin se löytyy XYZ GPU-pinosta”, jossa ”XYZ GPU pino” maksaa useita tuhansia dollareita, ja sen on oltava täysin omistautunut kyseiselle päätelmätehtävälle.

Googlen TPU-pino, jota käytetään usein heidän malliensa kouluttamiseen

Tietysti tutkimusta tehdään täällä, mutta suoritettava tutkimus keskittyy melkein kokonaan harjoittelusajaan, mikä ei mielestäni ole kovin tärkeää. Koulutukseen viikko ei ole iso juttu - kuka tahansa startup voi säästää viikon kouluttaakseen mallin, josta tulee heidän liiketoiminnansa kulmakivi.

Suurempi ongelma on päätelmissä. Juurten tasolla koulutus vaatii päätelmiä - päätelmät mainitaan yleensä verkon "eteenpäin" -vaiheena, ja tämän on tapahduttava harjoittelussa ennen taustan suorittamista. Koulutuksessa kaikki päätelmät tarvitsevat kuitenkin tietoja jo alussa.

Toisin sanoen koko erä voidaan prosessoida kerralla (ts. 100 kuvaa samanaikaisesti) matemaattisen skaalan vuoksi - useiden matriisien suuremman matriisin kertoaminen on tehokkaampaa kuin yhden matriisin usean matriisin kertominen (toisin sanoen , on tehokkaampaa tehdä enemmän kerralla). Tämä menee tiettyyn pisteeseen, samaan tapaan kuin ajatus vähentää tuottoa taloustieteessä, mutta on edelleen, että eräpätevä koulutus antaa meille mahdollisuuden mitoittaa päätelmiä suurille tietomäärille.

Valitettavasti käytännössä eräprosessointi tapahtuu harvoin.

On harvinaista, että mallin täytyy suorittaa päätelmät 200 kuvasta kerralla; on todennäköisempää, että 200 kuvaa lähetetään päätelmään esimerkiksi minuutissa. Jokaisella kuvalla on vaikea pullonkaula; jopa sanotun päättymisajan, kolmasosa sekunnista (mikä on hulluin nopeaa - nämä ajat ovat ylpeitä nopeimmista malleista, kuten Gmailin superoptimoitu lauseen ennustamismalli) johtavat siihen, että vain 180 kuvaa käsitellään / minuutti. Jopa pienellä 200 / min: n kuormalla malli ei skaalaudu, ja kasvavan viivästymisen arvioimiseksi toinen tapaus on synnytettävä tasapainon saavuttamiseksi.

Se on vaikea pilleri niellä maailmassa, jossa annetaan suuret kuormat; Itse asiassa Node's Express on joutunut tulipalon takia vain parin tuhannen yhteyden tukemiseksi sekunnissa. Samankaltaisia ​​kuin suosittuja NoSQL-tietokantoja kritisoidaan pullonkaulan vuoksi useilla tuhansilla tapahtumilla sekunnissa.

pato, joka taatusti räjähtää

Se on AI: n maailmassa ennenkuulumaton luku, joka törmää kovaan pullonkaulaan muutamassa sadassa sekunnissa erillisten päätelmien perusteella mallin yhdestä esiintymästä, jopa edistyneimmillä optimoinneilla, joita voit tehdä.

XR: llä on käsillä hyvin, hyvin erilainen ongelma. Kysymys on upotuksesta - upottamiseksi ja tuntemattoman laakson välttämiseksi vuorovaikutuksen on tapahduttava, ja renderoinnin on mukauduttava nopeammin kuin ihminen voi havaita. Toisin sanoen pari sataa millisekuntia ei ole tarpeeksi nopeaa.

XR: llä mittaamme asiat pieninä määrinä millisekuntia. Mittaamme hyväksyttävän latenssin alle ~ 20ms (luku, johon monet pelaajat eivät olisi samaa mieltä, koska 100+ kuvaa sekunnissa ja alle kymmenen pingistä pidetään normaalina useimmissa laitteissa).

Se on luku, joka on edelleen pullonkaula ja jota emme ole missään paikassa; Vaikka XR-tekniikka keskittyy intensiivisesti tähän ja tällä alalla on saavutettu lukuisia läpimurtoja säännöllisen aistinvaraisen syömisen ja renderöinnin suhteen, meillä on silti ongelmia vuorovaikutuksen suhteen; tarkalleen, XR avaa aivan uuden, rajattoman määrän vuorovaikutusmahdollisuuksia, joita useimmat moottorit eivät vain pysty käsittelemään.

ARCoren laajennetun kuvan moottori, kuten esiteltiin Google I / O 2018 -tapahtumassa

Lisäksi, jotta kuvankorjaus tapahtuu monimutkaisemmalla kuin homografia, latenssi on liian korkea, jotta sitä voidaan pitää "hyväksyttävänä" useimpien kokemusten mukaan. Nopein, mitä olemme toistaiseksi testanneet, on Googlen ARCore Augmented Images, joka käyttää homografioita (siellä on myös Lisättyjen Kasvojen demo, joka on hiukan hitaampi ja jolla on havaittavissa oleva viive / viive).

ARCore Augmented Faces -demo

Se on iso ongelma

Pelkästään kahden viime vuoden aikana etenemisen määrä näillä kolmella alalla on ylitsepääsemätön.

AI: ssä näimme luonnollisen kielen sukupolven etenemisen eteenpäin GPT-2: n kanssa, joka on ansainnut maineen NLP: n imageetiksi. Se avaa uuden mahdollisuuksien maailman tekstinkäsittelyn avulla. Olemme myös nähneet, että konvoluutioverkot ja GAN-verkot kasvavat omaksumaan 4 kb: n kuvia, ja olemme siirtymässä aikakauteen, jolloin AI voi jäljitellä HD-kuvia ja tuottaa sisältöä, joka vaikuttaa uskottavalta ihmissilmälle.

Blockchain-kentällä kenttä on muuttunut vähemmän mutaiseksi, useat käteislaatikot katoavat ja tekevät enemmän tilaa altistumiselle olemassa oleville alustoille. Steam on kasvanut merkittävästi viime vuonna, yhdessä Stellarin ja blockchain-käytön kanssa normaalissa tekniikassa. JPMorgan, BofA ja Facebook ovat kaikki ilmoittaneet blockchain -sovelluksestaan ​​ja sovellettu blockchain näkee nousua DLive-kaltaisten ympäristöjen kanssa, jotka ovat alkaneet mennä valtavirtaan (DLive perusti äskettäin kumppanuuden Youtuben suurimman persoonallisuuden kanssa sen luoja-ensimmäisellä alustalla).

XR: ssä olemme nähneet puhelintason XR: n ja AR: n todellisuudeksi monilla ARCore-parannuksilla. AI: n integroiminen XR: ään on tulossa mahdollista ja kehittää kokemuksia, jotka mahdollistavat jonkin verran ihmisten vuorovaikutusta (emme ole vielä fyysisessä kosketuksessa, mutta on olemassa hankkeita, jotka sallivat muun vuorovaikutuksen, kuten Fiddler AR).

Nämä ovat kaikkia aloja, joilla on suuri, merkittävä vaikutus tekniikan tulevaisuuteen, ja joilla ihmissivilisaatio menee kokonaisuutena. Nämä ovat tekniikoita, jotka eivät vaikuta talouteen; he määrittelevät sen uudelleen; ne eivät vaikuta yhteiskuntaan ja vuorovaikutukseen; he elvyttävät sitä. Se tekee mahdolliseksi koko kulttuurimme uudistamisen, ja juuri tasolla sitä kutsutaan toiseksi teollisuusvallankumoukseksi.

Liikkeelle, jolla on niin suuri vaikutus laajalle yleisölle, on elintärkeää ja ensiarvoisen tärkeää, että se pystyy laajasti tukemaan yleisöä helposti. Ennen kuin se toteutetaan, se estää omaksumista ja muodostaa kovan esteen markkinoille pääsylle innovaatioiden suhteen suurten yritysten ulkopuolella.

Toivon näkeväni enemmän innovaatioita näiden tekniikoiden skaalaamisessa. Epic.ai-sivustolla olemme keskittyneet kehittämään sovelluksia, jotka luottavat voimakkaasti AI: hen ja blockchainiin - olemme liian tuttuja skaalausrajoituksista; se on ongelma, jonka parissa työskentelemme voimakkaasti seuraavien vuosien aikana, ja ongelma, jonka toivomme teollisuuden tulevan yhdessä ratkaisemaan.

Hei! Olen Tomer, yrittäjä ja valmistaja. Saatat tuntea minut Meveestä, Nosturista, ja Shotsista, Slideistä ja nyt investorintelligence.io -sivustolta muiden julkaisemiesi tuotteiden joukosta! Tämä artikkeli on osa laajempaa sarjaa, jonka kirjoitan lähinnä kokemuksilleni, ja se on pääosin tehty minun ja ryhmäni mielipiteistä.

Toivon, että tämä auttaa sinua välttämään samojen virheiden tekemisen, jotka minäkin, ja muista jatkaa lähetystä!

Taputtele jos löysit tämän arvokkaan, ja seuraa minua kirjoittaaksesi enemmän tältä, koska jaan tarinoita siitä, miltä ohjelmistokehitys ja yrittäjyys näyttävät tosielämässä.

Tämä tarina on julkaistu Mediumin suurimmassa yrittäjyysjulkaisussa The Startup, jota seuraavat +442 678 ihmistä.

Tilaa saadaksesi parhaita tarinoitamme täältä.