Private AI-server: wat is het en wat kun je ermee?

AI is handig, dat weten we inmiddels allemaal. Maar zodra je bedrijfsdata in ChatGPT of Copilot stopt, geef je de controle uit handen. Waar gaat die data naartoe? Wie kan erbij? En wat als je wél slim wilt werken met AI, maar niet wilt dat je klantgegevens of bedrijfsinformatie op servers in Amerika belanden? Ian Zoontjens, support engineer bij Mr-Orange, legt uit hoe een private AI-server werkt en wat je ermee kunt.

Het probleem met ChatGPT en Copilot

Steeds meer ondernemers en medewerkers gebruiken AI-tools als ChatGPT of Microsoft Copilot. Handig voor het samenvatten van documenten, het opstellen van e-mails, het beantwoorden van vragen, het analyseren van data of het genereren van rapporten. Maar er zit een keerzijde aan.

“Als je deze tools zakelijk inzet, heb je nooit honderd procent inzicht in wat er met je data gebeurt,” zegt Ian. “In het ergste geval kan data die je in een publieke AI stopt, op straat belanden. Ja, je kunt vaak aangeven dat je niet wilt dat je invoer voor training van het AI-model wordt gebruikt. Maar dan moet je er wel op vertrouwen dat elke medewerker dat vinkje ook daadwerkelijk aanzet. Dat is beleid en biedt geen garantie. En zelfs dan: partijen als Microsoft en OpenAI beloven dat ze zorgvuldig met je gegevens omgaan, maar je kunt het niet verifiëren. Zij beheren de data, zij beheren de servers en die staan in Amerika. Vanwege de Amerikaanse Cloud Act kan de overheid daar altijd bij.”

Maar ook binnen je eigen organisatie liggen risico’s op de loer. Ian: “Microsoft geeft aan dat data voor trainingsdoeleinden binnen je organisatie gebruikt kan worden. Stel dat HR gevoelige personeelsgegevens invoert, dan kan iemand van Sales theoretisch die informatie te zien krijgen. Dat zijn potentiële interne datalekken waar je niet op zit te wachten.”

Wat is een private AI-server?

Een private AI-server biedt een uitweg. Ian legt uit: “Simpel gezegd is het een server die het mogelijk maakt om AI te gebruiken zonder afhankelijk te zijn van grote techbedrijven. Je kunt lokaal werken, op afstand en zelfs zonder internetverbinding.”

De server staat waar jij dat wilt: in je eigen bedrijfspand, in een datacenter naar keuze, in Nederland of bijvoorbeeld in Duitsland. De data blijft op diezelfde plek. “Je hebt zelf de volledige controle,” zegt Ian. “Wij kunnen adviseren over wat voor jouw situatie de beste optie is, want dat verschilt per bedrijf.”

Hoe wordt zo’n AI slim met jouw bedrijfsdata?

Een AI-systeem wordt pas echt waardevol als het jouw bedrijfsinformatie kent. Bij een private AI-server werkt dat als volgt: een beheerder voert de gewenste data in op de server. Dat kunnen handleidingen zijn, klantdossiers, productinformatie of procedures. Alles wat je wilt dat de AI weet. Die data blijft op de server staan en wordt niet gedeeld met externe partijen.

“Je kunt het ook zo inrichten dat medewerkers zelf bestanden kunnen toevoegen,” legt Ian uit. “Zo wordt de AI steeds slimmer met actuele bedrijfsinformatie.”

Een extra mogelijkheid is het afschermen van data per afdeling. “Je kunt meerdere AI’s op één server draaien, elk met hun eigen afgeschermde dataset. De HR-AI kan alleen bij HR-documenten, de Sales-AI alleen bij salesinformatie. Die kunnen niet bij elkaar ‘spieken’. Zo zie je alleen wat voor jouw functie relevant is.”

Wat kun je ermee?

De toepassingen zijn breed. Ian noemt er een aantal: “Je kunt een interne chatbot bouwen voor medewerkers, maar ook een publieke chatbot voor klantenservice. Daarnaast kun je processen automatiseren, documenten samenvatten, e-mails opstellen, vertalingen maken, code genereren, data analyseren. De mogelijkheden zijn vergelijkbaar met wat je kent van AI-tools als ChatGPT, Copilot of Gemini, maar dan met jouw data en onder jouw controle.”

Het prijsvoordeel

Naast privacy is er nog een argument: kosten. “ChatGPT, Copilot en Gemini werken allemaal met abonnementen,” zegt Ian. “Dat is al snel twintig tot dertig euro per medewerker per licentie per maand. En vaak zijn er meerdere tools in gebruik. Bij een private AI-server heb je hardwarekosten, hostingkosten en onderhoudskosten, maar afhankelijk van de capaciteit kun je met één server honderd tot tweehonderd medewerkers bedienen. Dat scheelt een heleboel licenties.”

Concrete bedragen kan Ian niet noemen: “Wat de totale kosten zijn, is lastig te zeggen, want het varieert enorm. Het hangt af van de hardware die je nodig hebt, de complexiteit van de implementatie, welke koppelingen je wilt en hoeveel medewerkers ermee gaan werken. Wat ik wel kan zeggen: als je meer dan een handvol Copilot-licenties nodig hebt, loont het al snel om naar een private oplossing te kijken.”

En er is nog een voordeel: onafhankelijkheid. “In de huidige geopolitieke situatie is dat niet onbelangrijk. Mocht er iets veranderen, stel dat een grote AI-aanbieder besluit Europa niet meer te bedienen of de prijzen fors verhoogt, dan kun je gewoon doorgaan.”

Voor wie is dit interessant?

Een private AI-server is vooral interessant voor organisaties die zich zorgen maken over wat er met hun bedrijfsdata gebeurt. Ian: “Soms is dat een bewuste keuze van het management, maar het kan ook gaan om onwetendheid bij medewerkers die niet realiseren waar hun data naartoe gaat. Met een private server kunnen ze AI gebruiken zonder die risico’s. Daarnaast is het aantrekkelijk voor bedrijven die serieus willen kijken naar het optimaliseren van processen met AI.”

Hoe lang duurt het?

Hoe lang het duurt voor je met je private AI-server aan de slag kunt, hangt af van je wensen. “Het kan heel snel,” zegt Ian. “Bij eenvoudige wensen kun je binnen enkele dagen live zijn. Wil je complexere zaken, dan wordt het een langer traject waarbij we samen kijken waar AI het beste kan ondersteunen.”

Bij zo’n langer traject gaat het niet alleen om de techniek. Ian: “We beginnen dan met een inventarisatie: welke processen kosten nu veel tijd? Waar zitten de frustraties? Soms weet een organisatie precies wat ze wil, maar vaak komen we in gesprek tot inzichten waar de klant zelf nog niet aan had gedacht. Dan blijkt bijvoorbeeld dat een chatbot voor klantenservice leuk is, maar dat de echte tijdwinst zit in het automatiseren van interne rapportages.”

Die adviesrol past bij de aanpak van Mr-Orange. “We leveren niet alleen een server en zwaaien je uit. We denken mee over wat zinvol is, helpen bij de implementatie en blijven beschikbaar voor vragen en uitbreidingen. Zo groeit de oplossing mee met je organisatie.”

Benieuwd? We komen graag langs

Mr-Orange kan de mogelijkheden live demonstreren. Ian: “We laten zien hoe het er voor een medewerker uitziet, hoe je het kunt integreren met je huidige systemen, welke koppelingen mogelijk zijn en hoe processen geautomatiseerd kunnen worden. We kunnen ook laten zien hoe het beheer werkt en hoe je data veilig toevoegt.”

Wil je weten of een private AI-server iets voor jouw organisatie is? Neem contact met ons op, mail naar info@mr-orange.nl of bel 0168-700500. Marco en Ian komen graag langs voor een kop koffie en een demo.