Posnetek e-seminarja: Kako lahko veliki jezikovni modeli pospešijo vašo produktivnost, brez varnostnih tveganj?

Vabimo vas, da si ogledate posnetek spletnega seminarja.

Na spletnem seminarju smo na več primerih predstavili rešitve, ki jih prinašajo veliki jezikovni modeli. Dotaknili smo se pomanjkljivosti in omejitev, s katerimi se lahko srečate pri uporabi takšnih modelov. Pozabili nismo niti na varnostna tveganja: na katere stvari morate biti pozorni, da zaupne informacije ne pridejo v nepooblaščene roke.

Teme, ki smo jih obravnavali na spletnem seminarju:

Veliki jezikovni modeli: Zmožnosti in pomanjkljivosti, Luka Stopar, raziskovalec, Institut “Jožef Stefan”
V predavanju je Luka Stopar predstavil zmožnosti in pomanjkljivosti velikih jezikovnih modelov. Poleg osnovnih principov delovanja smo pogledali npr. kako se obnesejo pri sklepanju in reševanju matematičnih operacij. Pogledali smo nekaj dobrih primerov uporabe modelov ter nekaj primerov, kjer se uporaba ne obnese.

SloLlama – razvoj slovenskega odprtodostopnega jezikovnega modela, Domen Vreš, raziskovalec, Univerza v Ljubljani, Fakulteta za računalništvo in informatiko
V predavanju je Domen Vreš predstavil razvoj slovenskega odprtodostopnega modela SloLlama, ki poteka v okviru raziskovalno-inovacijskega programa »Prilagodljiva obdelava naravnega jezika s pomočjo velikih jezikovnih modelov« (PoVejMo). Razvoj poteka v sodelovanju raziskovalnih institucij (Fakulteta za računalništvo in informatiko, ZRC SAZU, inštitut za novejšo zgodovino) s partnerji IKT ekosistema (Semantika d.o.o., XLAB d.o.o., Vitasis d.o.o., Better d.o.o., Špica International d.o.o.). Poudarek je bil na izzivih, ki jih prinaša razvoj velikega jezikovnega modela za digitalno manj zastopane jezike, kot je slovenščina, ter na prednostih, ki jih prinaša sodelovanje med akademijo in industrijo pri premagovanju teh izzivov.

Kako zagotoviti dostop, nadzor in varnost internih podatkov pri uporabi GPT modela?, Klemen Rizman, vodja R&D oddelka, CREAPLUS d.o.o.
Veliki jezikovni modeli so zmogljiva in uporabna orodja, ki lahko podjetjem in uporabnikom pomagajo pri številnih nalogah, kot so ustvarjanje vsebin, prevajanje, pisanje kode in reševanje problemov. Klemen Rizman se je v svojem predavanju dotaknil tudi varnostnih tveganj, saj lahko uporabniki pri uporabi velikih jezikovnih modelov nehote delijo zaupne informacije podjetja ali omogočijo nepooblaščenim uporabnikom dostop do občutljivih podatkov. Ogled posnetka bo zanimiv vsem, ki se zanimate za uporabo GPT modelov v podjetjih in vključitev njihovih podatkov.

Copilot za Microsoft 365 – Digitalni osebni asistent, Luka Perne, partner technology strategist, Microsoft d.o.o.
V enem dnevu imamo vsi na voljo (le) 24 ur. Od uspešnosti upravljanja našega časa je odvisno, kaj lahko v teh urah opravimo. Luka Perne nam je na interkativen način v predavanju predstavil svojo izkušnjo pri uporabi rešitev Copilot za Microsoft 365, ki s svojo integriranostjo v pisarniška orodja in sposobnostjo dela z vašimi službenimi podatki, predstavlja revolucijo osebne produktivnosti.

Agenti velikih jezikovnih modelov: kako lahko veliki jezikovni modeli komunicirajo z zunanjim svetom, Andrej Miščič, podatkovni znanstvenik, Valira AI d.o.o.

Andrej Miščič nam je predstavil arhitekturo agentov velikih jezikovnih modelov, ki ji v grobem sledi Evo (virtualni asistent, ki je bil razvit v sodelovanju s podjetjem Evolven). Agentje nadgradijo bolj klasične aplikacije velikih jezikovnih modelov (npr. pogovornih robotov) za odgovarjanje na vprašanja, saj omogočajo pridobivanje podatkov v resničnem času ali na strukturiran način ter izvajanje nalog prek API klicev. Pomemben vidik Eva je tudi zasebnost podatkov, tako se lahko poleg na uveljavljene modele povezuje tudi na lastne on-premise postavitve.