Το Inference αναφέρεται στη φάση κατά την οποία ένα AI μοντέλο εφαρμόζει τη γνώση που έχει εκπαιδευτεί για να προβλέψει ή να απαντήσει σε νέα δεδομένα. Στα αποκεντρωμένα περιβάλλοντα, το inference μπορεί να εκτελείται σε distributed κόμβους (π.χ. Akash, Gensyn), επιτρέποντας τη δημιουργία μιας αγοράς “AI ως υπηρεσία”.