Есть ли грамматическая ошибка?
Он узнал все, начиная причиной поступка, кончая именем хитреца.
Правильно: Он узнал всё, начиная с (от) причины поступка и кончая именем хитреца.
Из словаря
Начиная с кого-чего, в зн. предлога. Включая кого-, что-л.; в том числе и... Расселись все, начиная с гостей и кончая хозяевами. Начиная от кого-чего, в зн. предлога. Включая кого-, что-л., в том числе и... Наконец, все подружились, начиная от старожилов и кончая новичками.
Есть. Падеж слова "причина" здесь не подходит для обозначения начала условного диапазона сущностей: здесь требуется "начиная с причины". Трудно даже подобрать естественный контекст, в котором бы что-то делали "начиная чем-то". Проще придумать что-то фантастическое:
Процесс взбивания кондитерской массы он осуществлял, несколько раз заново начиная его длинной мешалкой из кристаллического сахара и заканчивая уже её верхней, ещё не растворившейся в массе частью.