Ça dépends de ce qu'on appelle « IA ». Une IA comportementale simple (rare en dehors du domaine des JV et des labos) c'est effectivement non prédictible mais ça converge vite vers un comportement moyen parfaitement connu. Statistiquement c'est au contraire très facilement prédictible.
Une IA comportementale plus complexe c'est une autre paire de manche, mais ça ne sort presque jamais des labos (jamais vu appliqué dans d'autres domaine réellement).
Enfin une IA de type entrée/sortie, un simple réseau de neurone type deep learning (la très large majorité des applis dites « d'IA », c'est bien prédictible (même si on ne sait pas comment ça converge exactement dans le détail des poids, on sait parfaitement vers quel résultat ça va, à quel vitesse approximative etc.) .