raputekai engineering

Servizio 04

Integrazione LLM nei vostri prodotti software

Per software house, startup e reparti IT che vogliono funzioni AI nel proprio prodotto: dalla scelta del modello all'architettura, dalle valutazioni automatiche ai guardrail, fino al costo per utente. Lavoriamo dentro il vostro repository, con il vostro team.

  • Per chiSoftware house, startup, IT interno
  • ModalitàNel vostro repository
  • ModelliCloud e open-weight
  • Durata tipica4–12 settimane

01 Cosa ottenete

  • 01

    Funzioni AI che reggono in produzione

    Gestione degli errori dei fornitori, limiti di frequenza, fallback tra modelli, risposte strutturate validate.

  • 02

    Qualità misurata, non percepita

    Un set di valutazione automatico che gira a ogni modifica di prompt o modello: le regressioni si vedono prima dei clienti.

  • 03

    Margini protetti

    Cache, modelli più piccoli dove bastano, controllo dei token: il costo per utente diventa un numero che si governa.

Dalla demo alla funzione in produzione

Chiamare un'API di un modello linguistico richiede dieci righe di codice. Farlo in modo che regga mille utenti, costi il giusto, non peggiori a ogni aggiornamento del fornitore e non esponga dati dei clienti richiede un'architettura. È qui che interveniamo.

Cosa facciamo, nel concreto

  • Scelta del modello con prove comparative sui vostri casi, in italiano: qualità, latenza, costo per richiesta.
  • Prompt e risposte strutturate: istruzioni versionate come codice, output in JSON validato, gestione esplicita dei casi in cui il modello non sa rispondere.
  • RAG e strumenti: collegamento del modello ai vostri dati e alle vostre API, con permessi per tenant e per utente.
  • Valutazioni automatiche: un set di casi di prova con criteri di correttezza, eseguito in CI a ogni modifica.
  • Guardrail: filtri su dati personali, contenuti indesiderati, prompt injection, limiti di lunghezza e di spesa.
  • Osservabilità: tracce di ogni chiamata, costi per funzione e per cliente, allarmi su errori e anomalie.

Indipendenza dal fornitore

I modelli migliorano e cambiano prezzo ogni pochi mesi. Progettiamo un livello di astrazione che permette di cambiare modello o fornitore senza toccare il prodotto, e di usare modelli diversi per compiti diversi: uno grande dove serve ragionamento, uno piccolo e veloce per classificare ed estrarre.

Se vi serve una guida continuativa

Quando il tema non è un singolo progetto ma la direzione tecnica dell'AI nel prodotto, il servizio giusto è l'AI tech lead esterno: architettura, revisione del codice, scelte di fornitori e crescita del team, a ore o a giornate.

02 Cosa vi consegniamo

Niente scatole nere

Codice, configurazioni e documentazione restano vostri. Se domani volete cambiare fornitore, potete farlo.

Tecnologie tipiche

  • Claude · GPT · Gemini API
  • Modelli open-weight (vLLM, Ollama)
  • Tool use · MCP
  • Output strutturati JSON
  • Valutazioni automatiche
  • Python · TypeScript · PHP
  • Architettura documentata (decisioni e alternative scartate)
  • Libreria di integrazione con retry, fallback e risposte strutturate
  • Set di valutazione e pipeline di test automatici
  • Guardrail su input e output (dati personali, contenuti, formato)
  • Osservabilità: tracce, latenze, costi per funzione e per cliente
  • Affiancamento del team e passaggio di consegne

03 Domande frequenti

Quello che ci chiedono più spesso

Quale modello conviene usare?

Dipende dal compito, dalla lingua, dalla latenza accettabile e dal costo per richiesta. Lo scegliamo con prove sui vostri casi reali e lasciamo l'architettura indipendente dal fornitore, così il cambio di modello è una configurazione e non una riscrittura.

Lavorate con il nostro team o al posto suo?

Con il vostro team, nel vostro repository e con i vostri strumenti. L'obiettivo è che alla fine sappiate mantenere ed evolvere ciò che abbiamo costruito insieme.

Come gestite i dati dei nostri clienti?

Contratti business con i fornitori, nessun addestramento sui dati, regione UE dove disponibile, mascheramento dei dati personali quando non servono al compito. Per i casi più delicati, modelli open-weight su infrastruttura vostra.

→ Richiesta

Partiamo dal vostro processo

Una call di 30 minuti per capire il caso. Se l'AI non è la risposta giusta, ve lo diciamo subito.

  1. Ci scriveteDue righe sul processo bastano.
  2. Call di 30 minutiCon chi progetta il sistema, non con un commerciale.
  3. Proposta scrittaFasi, tempi e prezzo fisso per ciascuna fase.
Raccontateci il casoRispondiamo entro un giorno lavorativo. Nessun impegno.

Niente newsletter, niente cessione a terzi. Vi scriverà un consulente tecnico.

04 Per approfondire

Un microchip futuristico con un processore centrale illuminato di azzurro e circuiti arancioni su sfondo scuro.

Tecnologia

Agenti AI: cosa sono e quando servono davvero (e quando no)

Agenti AI: cosa sono, come si differenziano da chatbot e automazioni, cos’è MCP, esempi in azienda, controlli, costi e una checklist per…

Una serie di lastre verticali allineate su una superficie scura, con una lastra illuminata di arancione e un nodo luminoso.

Tecnologia

RAG: come funziona un assistente AI sui documenti aziendali

RAG cos’è e come funziona un assistente AI sui documenti aziendali: indicizzazione, ricerca, citazioni, permessi, valutazione, errori…