В предложении утверждается, что Matlab считает быстрее [чем Mathematica, например]. Следовательно, "вероятно" относится ко всему этому утверждению, делая его менее категоричным. Это вводное слово и оно должно выделяться запятыми (см. § 91 по ссылке).
Иначе происходит выделение в следующем случае (см. подробности по той же ссылке):
§ 93. Если вводное слово или вводное сочетание слов стоит в начале или в конце обособленного члена предложения, то оно не отделяется от него знаком препинания, т. е. запятые выделяют член предложения вместе с вводным словом...
В Вашем предложении нет обособления.
Upd.
Вот пример, в котором запятая не нужна (объяснение здесь):
Matlab считает быстро, вероятно быстрее других программных продуктов.