Lexroom: Specializzare e scalare l'IA Generativa nel settore legale

In Lexroom abbiamo l'ambizione di creare un nuovo standard di lavoro per i professionisti del mondo legale usando l’IA Generativa. Dal punto di vista operativo, questo si traduce in due aspetti fondamentali:

1. Scalabilità, ovvero gestire un token throughput molto elevato e in costante crescita, con molteplici LLM provider, e minimizzando latenze ed error rate;
2. Specializzazione, ovvero creare un ecosistema e un’imbracatura (harness) che consenta a un LLM generalista di adottare la forma mentis di un professionista legale, e di appoggiarsi a fonti di informazione curate, verificate, e aggiornate.

In questo talk darò un’idea di come in Lexroom si coniugano questi due aspetti, mantenendo al contempo sia standard elevati di Privacy e Compliance, sia il momento necessario per stare al passo con gli sviluppi continui e frenetici nel panorama LLM.