La question de ce fil est intéressante. Peut-être que le philosophe ayant le plus profondément creusé cette question est Wittgenstein.
Il faut d'abord préciser ce qu'on entend par "expérience". Une expérience est une manipulation que l'on fait dans le but de découvrir son issue. Dans le cas d'un calcul mathématique, il s'agit d'une manipulation de symboles ou de règles de calcul. La question est alors : si un tel calcul était une expérience, quelle serait son issue ?
Une réponse basique serait de dire : l'issue de l'expérience d'un calcul, c'est son résultat numérique. On ferait un calcul pour découvrir son résultat. Cette réponse a du sens notamment quand on effectue des calculs nouveaux. Par exemple, si l'on fait 2469x5, on obtient (étonnament ?) 12345. Eh bien, voilà le résultat de cette expérience.
Mais les choses coincent quand on obtient un résultat erroné. Imaginons qu'un enfant fasse 2+3 pour la première fois de sa vie et obtienne 5. On pourrait se dire : "Il a découvert que 5 était le résultat de 2+3." Mais aurait-on dit la même chose s'il avait obtenu 7 ? Non, on aurait dit : "Il s'est trompé, il n'a pas compris les règles de calcul." Mais la seule façon de vérifier qu'il comprend bien les règles de calcul, c'est justement en regardant le résultat qu'il obtient. On voit donc que dans un calcul mathématique, le résultat joue un rôle : celui de révéler si le calculateur applique bien les règles de calcul. Il y a donc un résultat privilégié parmi tous les résultats, et c'est le résultat correct. Si un calcul était une expérience, l'issue à découvrir ne serait pas le résultat numérique mais l'état de la compréhension des règles par le calculateur.
Mais dans le cas d'un calcul jamais effectué par l'humanité auparavant (un calcul très complexe dans le cadre d'une recherche de pointe, par ex.), si personne ne connaît le bon résultat, comment savoir si le calculateur a correctement effectué le calcul ? Réponse : on ne peut pas le savoir ! On doit lui faire confiance compte tenu de sa réputation (ou de celle du journal qui publie son résultat), ou bien tenter de refaire le calcul nous-mêmes. Ce flou sur la compréhension des règles, accompagné du souci d'obtenir le résultat correct fixé a priori, et non simplement un certain résultat, sont spécifiques aux maths et distinguent les opérations mathématiques des expériences en physique ou en chimie, par ex.
En conclusion : la réponse "bien sûr qu'un calcul n'est pas une expérience" de votre collègue est hâtive, mais la réaction du jury "vous vous trompez" l'est tout autant. Un calcul n'est pas clairement une expérience, ni clairement pas une expérience. La question est subtile et il ne faut pas l'aplatir.