Ich verwende Lualatex aus Miktex 2.9 und Libertine. Alles ist auf dem neuesten Stand.
\usepackage{amsmath} liefert beim Kompilieren folgende Fehlermeldung:
! Missing number, treated as zero.

\cs_set_nopar:Npx
l.10 \begin{document}

A number should have been here; I inserted `0'.

Minimalbeispiel:
\documentclass[fontsize=11pt,headings=big,open=any]{scrbook}
\usepackage{luaotfload}
\usepackage{fontspec}
\setmainfont{Linux Libertine O}
\usepackage[ngerman]{babel}
\usepackage{amsmath}
\usepackage{libertineotf}
\usepackage[math-style=TeX]{unicode-math}
\setmathfont{Latin Modern Math}
\begin{document}
Danke für die Hilfe!
\end{document}

Ergebnis: 2 0 8722 3 0 61 Danke für die Hilfe!