Le bec du Faucon émerillon est court et recourbé à sa base. C'est un petit oiseau de proie difficile à identifier.
Le faucon émerillon mâle se reconnaît à ses fines moustaches peu marquées, à ses parties supérieures gris-bleu, un peu comme le mâle d'épervier d'Europe et à sa poitrine et son ventre roux. Sa silhouette en vol est typique, petite et compacte avec des ailes courtes extrêmement pointues, ce qui permet de le distinguer de l'épervier aux ailes toujours plus ou moins arrondies. Par contre, la femelle possède une coloration brun terne par dessus ce qui constrate avec les tons plus clairs et fortement marqués de brun des parties inférieures. La couleur de la femelle et de l'immature la camoufle superbement sur fond de terre. Ailes courtes et larges à la base, queue longue et triangulaire.