Què són els petits models de llenguatge (SLM)? Guia senzilla per entendre la IA compacta

Què és exactament un model de llenguatge petit o SLM?

Segur que ja has sentit a parlar dels models de llenguatge gegants com GPT-4 o Gemini. Aquests sistemes es coneixen com a LLM (Large Language Models) i són capaços de fer gairebé de tot, des d'escriure poemes fins a programar aplicacions. No obstant això, en el món de la tecnologia ha sorgit una alternativa que està guanyant molta força: els SLM (Small Language Models) o petits models de llenguatge.

Per entendre-ho sense tecnicismes, imagina que un LLM és una enciclopèdia universal de trenta volums que ho sap tot sobre el món, però que pesa moltíssim i és difícil de moure. Un SLM, en canvi, és com un manual especialitzat i compacte que pots portar a la butxaca. No en sap tant sobre física quàntica o història de l'art, però és un expert absolut en les tasques específiques per a les quals ha estat dissenyat.

A diferència dels seus germans grans, que s'entrenen amb gairebé tot el contingut disponible a internet, els SLMs s'entrenen amb conjunts de dades més petits i seleccionats. Això els fa més lleugers, ràpids i, el més important per a una petita empresa o un autònom, molt més econòmics de mantenir.

Per què són millors per a una pime que els models gegants?

Molta gent pensa que "com més gran, millor", però en la intel·ligència artificial això no és necessàriament cert. Aquests models compactes tenen avantatges estratègics que els fan ideals per al món real.

1. Estalvi de costos brutal

Mantenir un model gegant funcionant requereix servidors caríssims i un consum elèctric immens. Si integres un LLM al teu web per atendre clients, cada consulta et costa diners. Els SLM, com que són petits, poden executar-se en ordinadors molt més senzills o fins i tot en servidors locals bàsics. Això redueix el cost d'operació dràsticament.

2. Major velocitat de resposta

Alguna vegada has notat que ChatGPT de vegades triga uns segons a començar a escriure? Això és perquè ha de processar bilions de paràmetres. Un SLM respon a l'instant. Si estàs fent servir una IA perquè un robot en un magatzem prengui decisions o perquè un xat de suport ajudi un usuari, la velocitat és clau per a l'experiència del client.

3. Privadesa i seguretat de les dades

Aquest és el major avantatge per a sectors com el legal o el sanitari. Com que un SLM és lleuger, pots instal·lar-lo als teus propis servidors, sense que les dades surtin mai de la teva empresa. No cal enviar informació confidencial al núvol de Microsoft o Google. Tot es queda a casa, sota el teu control.

Exemples pràctics d'ús dels SLM

A vegades costa veure com s'aplica això a la realitat. Aquí tens alguns escenaris on un model petit brilla més que un de gran:

• Atenció al client especialitzada: En lloc d'utilitzar una IA que sap d'astronàutica, entrenes un SLM només amb els manuals dels teus productes i la teva política de devolucions. Serà més precís i cometrà menys errors (al·lucinacions) que un model generalista.
• Classificació de correus electrònics: Una petita aplicació que llegeixi els emails de contacte i els derivi automàticament al departament de vendes, suport o administració. No necessites un cervell gegant per classificar text.
• Resum de documents legals: Un advocat pot tenir un SLM instal·lat al seu propi portàtil que resumeixi contractes sense que el text del client pugi a internet, complint estrictament amb la protecció de dades.
• Dispositius sense connexió: Com que ocupen poc espai, aquests models poden viure dins de tauletes o mòbils i funcionar sense internet. Imagina un tècnic de manteniment en una zona sense cobertura que pot preguntar a una IA com arreglar una peça específica.

Diferències clau: SLM vs. LLM

Perquè tinguis una visió clara, compararem ambdós conceptes de forma directa:

Paràmetres i mida

Els paràmetres són, bàsicament, les connexions que el model ha après. Mentre que un LLM té centenars de milers de milions (o bilions) de paràmetres, un SLM se sol moure entre els mil milions i els deu mil milions. Sembla molt, però en termes informàtics, és la diferència entre necessitar una granja de servidors o poder funcionar en un mòbil modern.

Qualitat de les dades

En un LLM es prima la quantitat: se li dona tota la Viquipèdia, Reddit, llibres, notícies, etc. En un SLM es prima la qualitat. Es seleccionen dades molt netes, ben escrites i específiques. Com diu el refrany: "qui molt abraça, poc estreny". Els models petits estrenyen molt millor en àrees concretes.

Com pot una empresa petita començar amb els SLM?

No cal ser un enginyer de la NASA per aprofitar això. Avui dia existeixen models oberts (Open Source) que qualsevol tècnic amb uns coneixements bàsics pot configurar per al teu negoci. Exemples famosos són Phi-3 de Microsoft, la família Llama de Meta (en les seves versions petites) o els models de Mistral AI.

El procés sol ser el següent: primer es tria un model base que ja sap parlar i entendre el llenguatge. Després, es realitza un procés anomenat fine-tuning o ajust fi, on se li ensenya la terminologia específica del teu negoci. Finalment, s'integra en les eines que ja fas servir diàriament.

Preguntes freqüents sobre els models petits

Són menys intel·ligents que GPT-4?

En raonament general i cultura general, sí. No demanis a un SLM que t'expliqui la història de l'Antiga Grècia amb el mateix detall. Però en tasques específiques, com analitzar un tiquet de compra o redactar un informe tècnic sobre fontaneria, poden ser igual d'eficaços o fins i tot millors.

És molt car implementar-ne un?

La implementació inicial té un cost de configuració, però a llarg termini és molt més barat que pagar subscripcions mensuals per cada usuari o pagar per cada paraula processada al núvol.

Què necessito per executar-ne un?

Depèn del model, però molts SLM moderns poden funcionar en un ordinador amb una bona targeta gràfica o fins i tot en servidors de gamma mitjana que moltes empreses ja tenen contractats per al seu web.

Poden cometre errors?

Sí, tota IA es pot equivocar. No obstant això, en estar entrenats amb dades més específiques i controlades, solen inventar-se menys coses que els models gegants, que a vegades barregen conceptes de fonts molt diferents.

Cap a una IA més sostenible i accessible

L'auge dels SLM marca un canvi de paradigma. Ja no es tracta de qui té l'ordinador més gran del món, sinó de qui usa la tecnologia de forma més intel·ligent. Per a una pime, els SLMs representen la democratització de la intel·ligència artificial: una tecnologia que abans només estava a l'abast de Silicon Valley ara pot ser a l'ordinador d'una oficina a qualsevol barri.

Aquesta eficiència no només és bona per a la teva butxaca, sinó també per al planeta. L'entrenament i ús de models gegants consumeix una quantitat ingent d'aigua i electricitat. Els models petits són la via cap a una digitalització més verda i responsable.

A Picarol Digital sabem que navegar pel món de la intel·ligència artificial pot ser aclaparador, per això estem aquí per ajudar-te a entendre quines eines encaixen realment amb el teu negoci sense complicacions tècniques. Si vols descobrir com implementar aquestes solucions de forma pràctica, compta amb nosaltres per guiar-te en cada pas.