یهودی سرگردان داستان آرتور لوی (یعقوب بن-آمی)، یک هنرمند آلمانی-یهودی را روایت می‌کند که با آنتی‌سمی‌تیسم جدید آلمان مواجه می‌شود. وقتی شاهکار او، پرتره‌ای از پدر لهستانی‌زاده‌اش به نام "سرگردان ابدی" توسط آکادمی هنر برلین رد می‌شود و از او می‌خواهد که به عنوان استاد استعفا دهد. در ادامه فیلم، شخصیت موجود در نقاشی زنده می‌شود و داستان آزار و اذیت مردم یهود را برای لوی روایت می‌کند. فیلم با تصاویری از یک تجمع ضد هیتلری در میدان مدیسون نیویورک و اراده لوی برای ادامه دادن در برابر سختی‌ها به پایان می‌رسد.