התפילין מסמלות את הקשר הנצחי שבין עם ישראל לשם ומהוות אות ועדות על האדם המניח אותם שהוא יהודי כמו שנאמר בתורה בפרשיית "קדש לי כל בכור" אשר גם היא מצויה בתוך התפילין. פרשיה זו
מופיעה בספר שמות פרק י"ג ובפסוק ט` נאמר "והיה לך לאות על ידך ולזיכרון בין עיניך למען תהיה תורת השם בפיך". באופן הנחת התפילין יש סמליות מובהקת: תפילין מניחים על הראש ועל הזרוע. הראש מסמל את השכל, החשיבה וההיגיון. היהודי המניח תפילין על הראש מביע בעצם הנחת התפילין שהוא חושב כמו יהודי, חושב על פי הרעיונות של התורה ומכפיף את מוחו ומחשבותיו לשם ולתורתו. הזרוע מסמלת את הכוח, את המעשה ואת הביצוע. היהודי שמניח תפילין על זרועו מצהיר בכך שהוא מתנהג כמו יהודי וכל מעשיו הם מעשים של יהודי.