Правильно: ядра ореха макадамии.
Макада́мия — род древесных растений. Торговое наименование плодов этих растений — «орех макадамия».
Итак, есть дерево макадамия и орех макадамия. Это словосочетания родового и видового названий, оформленные по принципу приложений (согласование в падеже): дерево, орех – это определяемые существительные, а макадамия – видовое название в роли приложения.
Примечание. Возможно сочетания и по принципу управления: орех макадамии (то есть орех дерева макадамии). Род у видового и родового названия разный.
Реально сочетание «орех макадамия» используется в большинстве описательных текстов именно по принципу приложения**, то есть согласуется в падеже: ядра (чего?) ореха макадамии, масло ореха макадамии.
Например: Масло растительное Great Hearts of Africa ореха макадамии, 250 мл.
Хотя отклонения встречаются, но вряд ли их можно считать обоснованными. Кстати, интересно было бы ознакомиться с таким обоснованием.
Также: орех макадамии сладкий, макадамия сладкая на вкус – это варианты сочетания по роду.
Соответственно, рекомендации Грамоты.ру, да еще в такой форме ("лучше"), представляются некорректными. Чем всё-таки лучше? Это желательно указать. Как вариант, опрощение связи согласования, переход к примыканию, но тогда надо указывать причину и область применения.
Какое есть правило? Это общее правило, с которым можно ознакомиться, к примеру, в книге "Краткая русская грамматика"
http://slovari.ru/default.aspx?s=0&p=5312&0a0=1718#354
§ 354. Приложение – это согласование, при котором в отношения определяемого и определяющего вступают существительные. Согласуемой формой при приложении является падеж; формы рода и числа в согласовании не участвуют: они могут совпадать (гриб боровик) или не совпадать (гриб сыроежка).
Существительные, выступающие в роли приложения, обозначают качества и свойства: старик-отец, поэт-новатор, видовые признаки: месяц май, дерево сосна, ягода черника,; имена, фамилии, прозвища, клички: гражданин Петров, девочка Оля, собака Шарик; географические названия: город Москва; собственные имена предметов: газета "Труд".
§ 355. Смысловые отношения при приложении могут быть более или менее слитными. При наибольшей слитности признака с предметом приложение (обычно препозитивное) теряет способность к словоизменению и ведет себя как часть сложного слова: бой-баба, козырь-девка, горе-охотник, чудо-дерево, жар-птица, царь-колокол, царь-пушка, царь-девица.
Примечание. Сюда же относятся .. названия трав: ковыль-трава, плакун-трава, Иван-чай.
§ 356. Несклоняемость приложения может сопровождаться не только опрощением согласовательной связи, но и сближением ее со связью примыкания. Так, в современной обиходно-бытовой речи тенденцию к неизменяемости все больше проявляют постпозитивные приложения-топонимы: озеро Байкал, на озере Байкал.
Все эти случаи по существу выходят за рамки приложения, поскольку о приложении как разновидности согласования можно говорить только там, где налицо словоизменение обоих членов словосочетания.