Perché credo nei modelli SOTA rispetto a quelli personalizzati
Non sono mai stato un grande sostenitore della formazione di modelli personalizzati. Inoltre non ho mai creduto nella messa a punto.
Tornando indietro al 2023, il mio intuito mi ha sempre spinto verso il miglior modello SOTA possibile, combinato con la gestione del contesto.
Alla fine ho cristallizzato il mio ragionamento attorno a questo:
Ogni volta che si pensa di utilizzare un piccolo modello per un piccolo compito, di solito c’è molto di più in una determinata decisione oltre alla semplice area di competenza individuale.
Ad esempio, etichettare le e-mail. Scrivere rapporti. Elaborazione di eventi di sicurezza. Ricerca di minacce su una rete.
Da un lato penso che questi siano specializzati, ma il fatto è che più un essere umano è intelligente ed esperto con questa competenza, migliore sarà il lavoro che svolgerà.
Questo perché la maggior parte dei compiti specializzati beneficia ancora dell’esperienza di vita generale della persona che esegue l’esecuzione.
Questo è il motivo per cui penso che il futuro non sia un insieme di modelli specializzati estremamente piccoli in tutta l’azienda.
Penso che ciò che è molto più probabile sia più un modello di haiku con sonetto in opera in cui il meglio del meglio continua a scendere di prezzo, incluso il fatto di essere open source.
E questi modelli più piccoli vengono utilizzati insieme al contesto per eseguire tutte le diverse attività di un’organizzazione a costi molto inferiori.
Ma si tratterà comunque di modelli estremamente generali, non di custom minuscoli e angusti.
