Lokale AI kan zijn waarde bewijzen in een klein bedrijf, met huisregels

Ik geloof dat het draaien van een klein AI-model op je eigen machine nu een realistische optie is voor een klein bedrijf. Daar mag je best enthousiast over zijn. Maar ik zou minder tijd besteden aan het bewonderen van het model en meer tijd aan het ontwerpen van de structuur eromheen: de regels, rechten en controles die het werk nuttig en veilig maken.

Stel je een slimme nieuwe tijdelijke kracht voor op de eerste dag: slim, snel en enthousiast om te helpen, maar onbekend met je huisregels. Je zou die persoon niet elke sleutel, toegang tot de bankrekening en toestemming om voor het bedrijf te spreken geven. Je zou de taak uitleggen, de checklist laten zien en duidelijk maken wanneer er eerst gevraagd moet worden.

Ik zou AI op dezelfde manier behandelen. Geef het een taakomschrijving, een sleutel die alleen de noodzakelijke deuren opent, een logboek en een supervisor. Maak het een harde regel dat het eerst vraagt voordat het geld uitgeeft of een klant benadert. Controleer het werk voordat het bij een klant terechtkomt. Die grenzen zijn geen obstakels voor bruikbaarheid; naar mijn mening zijn ze wat delegering mogelijk maakt.

Begin met het werk, niet met de machine. Ik zou zoeken naar repetitieve, veelvoorkomende taken waarvan de resultaten makkelijk te controleren zijn: het sorteren van aanvragen, het taggen van records, het samenvatten van notities, het extraheren van details uit documenten en het voorbereiden van eerste concepten. Dit zijn geschikte kandidaten voor het testen van een lokaal model. Je kunt het gewenste resultaat definiëren en de uitvoer vergelijken met het originele materiaal.

Waar het redeneren zelf het resultaat is, zou ik de sterkste geschikte tools gebruiken die beschikbaar zijn binnen de databeleidsregels van het bedrijf, waarbij menselijk oordeel nog steeds verantwoordelijk blijft. Een moeilijke commerciële beslissing is niet zomaar een andere sorteertaak. Ik zou de tool kiezen voor de taak in plaats van te eisen dat één lokaal model alles afhandelt.

Voordat je iets anders doet, bepaal welke data het bedrijf mag verlaten. Voor mij bepaalt data eerst en prijs daarna. Een model dat lokaal draait kan vertrouwelijke informatie in het gebouw houden, mits de omringende software, verbindingen en back-ups dienovereenkomstig zijn geconfigureerd. Lokale verwerking is geen belofte dat niets anders data ergens anders naartoe stuurt. Controleer de hele opstelling, niet alleen waar het model draait.

Ik zou ook vragen of AI überhaupt nodig is. Als een eenvoudige regel, spreadsheetformule of simpel stukje software het werk betrouwbaar doet, gebruik dat dan. Bewaar AI voor werk waarbij het interpreteren van gevarieerde taal of het produceren van een nuttig concept iets toevoegt. Simpelere opstellingen geven je minder om te onderhouden en minder plekken om te onderzoeken als er iets misgaat.

Voordat je hardware koopt, test de voorgestelde opstelling op je eigen echte voorbeelden, inclusief lastige gevallen. Gepubliceerde ranglijsten kunnen je niet vertellen of het je papierwerk goed genoeg afhandelt. Ik zou het beoordelen op gemiste details, correctietijd en of het controleren van de antwoorden meer moeite kost dan het zelf doen van de taak.

Lokaal is niet gratis. Ik zou het behandelen als een vaste verplichting met een aangewezen verantwoordelijke: iemand moet updates, beveiliging, back-ups en storingen afhandelen. Stroom, warmte en geluid horen ook bij de beslissing. De aankoopprijs is slechts een deel van wat het bedrijf op zich neemt.

Voor de eerste taak zou ik één pagina schrijven waarin staat wat de AI mag doen, waarover het moet vragen en hoe we het resultaat zullen controleren. Houd een logboek bij van zijn acties en bekijk de eerste resultaten zelf. Accepteer nooit 'klaar' alleen omdat de AI het zegt: inspecteer de uitvoer en verifieer elke beweerde actie voordat je erop vertrouwt.

Bij DevMojos helpen we bedrijven bij het adopteren van AI, inclusief lokale AI, met de juiste structuur op zijn plaats. Ik ben optimistisch over wat dat mogelijk maakt. De slimste nieuwe medewerker heeft nog steeds huisregels nodig.