Замените первый селектор дочерним элементом, который вы тестируете, а второй селектор - родительским элементом, которого вы тестируете.
if ( $(".child-element").parents("#main-nav").length == 1 ) ( // YES, the child element is inside the parent ) else ( // NO, it is not inside )