Ensinnäkin Opera antaa nyt käyttäjien suorittaa LLM:itä paikallisesti

Opera on äskettäin lisännyt uuden ominaisuuden, jonka avulla Opera One -käyttäjät voivat ladata ja käyttää suuria kielimalleja (LLM) henkilökohtaisissa tietokoneissaan. Tämä ominaisuus on saatavilla käyttäjille, jotka saavat kehittäjien stream-päivityksiä, ja se tarjoaa pääsyn yli 150 malliin useista eri perheistä, kuten Llamaan Metalta, Gemmaan Googlesta, Vicunasta, Mistral AI:stä ja muista.

Operan selaimista ja pelaamisesta vastaavan johtajan Krystian Kolondran mukaan hän sanoi :

”Paikallisten LLM:ien esittely tällä tavalla antaa Operalle mahdollisuuden alkaa tutkia tapoja rakentaa kokemuksia ja osaamista nopeasti kehittyvässä paikallisessa tekoälytilassa.”

Opera on nimennyt nämä viimeisimmät lisäykset osaksi ”AI Feature Drops -ohjelmaa” ja lupaa, että käyttäjätiedot säilyvät heidän laitteilleen, jolloin he voivat käyttää generatiivista tekoälyä ilman vaatimusta lähettää tietoja palvelimelle. Yritys käyttää Ollaman avoimen lähdekoodin viitekehystä suorittaakseen nämä mallit suoraan käyttäjien tietokoneilla. Kukin malliversio vie 2-10 Gt tallennustilaa laitteessa.

Opera pyrkii vahvasti liittymään tekoälyteknologian hyödyntämisen trendiin näiden uusien ominaisuuksien käyttöönotolla. Tämä ei kuitenkaan ole ensimmäinen tapaus, jossa selain sisältää tekoälyn, kuten Opera One julkaistiin viime vuonna. Tämä siirto vahvisti yrityksen tavoitetta tulla johtavaksi tekoälyyn keskittyväksi selaimeksi, mitä osoitti entisestään heidän tekoälyavustajan Aria lanseeraus. Tarjoamalla erottuvia ja kekseliäitä ominaisuuksia näiden päivitysten odotetaan auttavan Operaa kasvattamaan markkinaosuuttaan. Statcounterin joulukuussa 2023 julkaiseman raportin mukaan Opera valloitti 3,8 prosentin markkinaosuuden ja sijoittui viiden parhaan työpöytäselaimen joukkoon.

Voit kokea tämän Operan uuden ominaisuuden päivittämällä Opera Developerin uusimpaan versioon ja noudattamalla näitä ohjeita ottaaksesi paikalliset LLM:t käyttöön laitteessasi. Tämä sallii käyttäjän koneen käyttää paikallista LLM:ää Operan AI-avustajan Arian sijasta, ellei käyttäjä aloita keskustelua Arian kanssa tai aktivoi sitä uudelleen.