Research

Finance intelligence research

Ce qui rend un document financier difficile pour un modèle de langage, et ce qu’un bureau doit ajouter avant qu’une réponse mérite qu’on agisse dessus.

Sources primaires, lues et citéesDeskworth · publié · mis à jour · 6 sources

Une réponse financière n’est pas une phrase. C’est un nombre, la fenêtre qu’il couvre, le document d’où il vient, et la date à laquelle ce document a été lu. Retirez-en une des quatre, la phrase survit, et c’est exactement le problème. Cette page rassemble ce que la littérature publiée dit de cet écart, et ce qui est bâti contre lui.

#Pourquoi les dépôts réglementaires résistent à un modèle de langage

Trois propriétés des documents financiers les rendent plus difficiles qu’ils n’en ont l’air, et chacune est mesurée dans la littérature plutôt qu’affirmée ici.

L’ampleur de l’écart mérite qu’on s’y arrête. FinanceBench a évalué seize configurations de modèles sur des questions que ses auteurs qualifient de tranchées, et a trouvé qu’un modèle solide couplé à un système de recherche répondait faux ou déclinait sur 81 % des cas échantillonnés 1. Ce résultat date de 2023 et les modèles ont bougé ; le point structurel, non. Un système de recherche qui rend la mauvaise page produit une réponse fluide sur la mauvaise page.

#La vérité figée à la date

Un chiffre n’est vrai qu’à l’intérieur d’une fenêtre. Le chiffre d’affaires de l’exercice 2025 n’est pas celui des douze mois glissants, et un chiffre retraité n’est pas le chiffre qui avait été publié. Un bureau qui répond sans porter la fenêtre ne se trompe pas une fois, il se trompe d’une façon que personne ne peut détecter après coup.

La conséquence pour un produit est inconfortable : quand les données ne répondent pas à la question à la date demandée, la sortie honnête est un refus, pas une approximation. Dans Deskworth ce refus est un état de plein droit, pas un chemin d’erreur.

#Faits, hypothèses et calculs sont trois choses différentes

Un modèle qui produit un nombre mélange les trois par défaut. Un tableur bâti par un analyste les sépare, parce que c’est ce qui le rend auditable un an plus tard. Deskworth prend le parti de l’analyste : le contrat de classeur du cœur garde entrées, modèle, sortie, sources et contrôles sur des feuilles distinctes, et un fait sans source déclarée est refusé avant que le fichier ne s’écrive 5.

PreuveCe contrat est écrit et couvert de bout en bout par des tests, le fichier est composé, écrit, rouvert par un chemin autre que celui qui l’a écrit, et ses formules retrouvées. La version 0.0.23 l’étend à une présentation et une note rendues depuis le même dossier, pour que les trois ne puissent pas diverger. Rien de tout cela n’a encore été exercé par une exécution d’agent réelle, et le cœur le dit avec ces mots-là 6.

#Pourquoi un spécialiste l’emporte ici sur un généraliste

L’argument des rôles nommés n’est pas qu’un modèle spécialisé serait plus malin. C’est qu’un mandat est une limite écrite, et qu’une limite est ce qui rend une mauvaise réponse visible. Un rôle qui peut lire des dépôts réglementaires et ne peut pas atteindre le web ouvert ne peut pas substituer en douce un billet de blog à un 10-K. Un rôle qui possède le format du classeur est le seul à pouvoir en produire un, donc une demande de présentation ne peut pas rendre un tableur en silence.

C’est un argument de capacités, pas une affirmation de banc d’essai. Aucune évaluation face à face d’un assistant généraliste contre un roster de mandats n’a été menée, et tant qu’elle ne l’aura pas été, cette page ne prétendra pas le contraire.

#Ce que cela veut dire pour Deskworth

LimiteRien sur cette page n’est une affirmation mesurée sur la justesse de Deskworth lui-même. Aucun des bancs ci-dessous n’a été exécuté sur cette pile. La page d’évaluation énonce le protocole qui sera suivi et dit franchement qu’il n’a pas été exécuté.

#Sources

  1. FinanceBench: A New Benchmark for Financial Question AnsweringPranab Islam, Anand Kannappan, Douwe Kiela, Rebecca Qian, Nino Scherrer, Bertie Vidgenpeer-reviewed paper · arXiv:2311.11944v1 · publié 2023-11-20 · lu 2026-09-10 · CC BY-NC-ND 4.0https://arxiv.org/abs/2311.11944
  2. FinQA: A Dataset of Numerical Reasoning over Financial DataZhiyu Chen, Wenhu Chen, Charese Smiley, Sameena Shah, Iana Borova, Dylan Langdon, Reema Moussa, Matt Beane, Ting-Hao Huang, Bryan Routledge, William Yang Wangpeer-reviewed paper · EMNLP 2021 · anthology 2021.emnlp-main.300 · publié 2021-11-01 · lu 2026-09-10 · CC BY 4.0https://aclanthology.org/2021.emnlp-main.300/
  3. TAT-QA: A Question Answering Benchmark on a Hybrid of Tabular and Textual Content in FinanceFengbin Zhu, Wenqiang Lei, Youcheng Huang, Chao Wang, Shuo Zhang, Jiancheng Lv, Fuli Feng, Tat-Seng Chuapeer-reviewed paper · ACL-IJCNLP 2021 · doi 10.18653/v1/2021.acl-long.254 · publié 2021-08-01 · lu 2026-09-10 · CC BY 4.0https://aclanthology.org/2021.acl-long.254/
  4. BizBench: A Quantitative Reasoning Benchmark for Business and FinanceRik Koncel-Kedziorski, Michael Krumdick, Viet Lai, Varshini Reddy, Charles Lovering, Chris Tannerpeer-reviewed paper · arXiv:2311.06602v2 · revised 2024-03-12 · publié 2023-11-11 · lu 2026-09-10 · CC BY-NC-SA 4.0https://arxiv.org/abs/2311.06602
  5. Deskworth OS, handover report 0.0.22Deskworthinternal handover report · Deskworth OS 0.0.22 · commit d59e30e · publié 2026-09-10 · lu 2026-09-10Document interne, non publié
  6. Deskworth OS, product state at 0.0.23Deskworthinternal handover report · Deskworth OS 0.0.23 · commit produit 5968ef0 · lu à bcae42d · publié 2026-09-10 · lu 2026-09-10Document interne, non publié

Read next

More in Research