JJ眾多曖昧對象中，最廣為人知的，莫過於他曾坦承暗戀「S.H.E」成員田馥甄（Hebe）長達10年。2013年，林俊傑在演唱會上邀請田馥甄共乘高空鞦韆，合唱〈豆漿油條〉公開示愛，成為歌迷心中難忘畫面。然而這段感情始終未能開花結果，田馥甄隔年受訪再被問到此事，正面回應「這是萬年老哏，不要再追了」，也為這段曖昧畫下句點。
此外，林俊傑2006年曾被拍到與「天氣女孩」林采薇（Yumi）約會，當時雙方未正面回應。直到2017年，林采薇曬出與林俊傑抱著愛犬Momo的合照，自稱「爸爸」、「媽媽」，引發舊情復燃揣測。她隨後受訪坦言，兩人確實在多年前交往過，分手後仍保持友好關係。林采薇於2020年與黃少谷結婚，婚後育有兩名子女，家庭生活幸福穩定。
與林采薇分手後，林俊傑又被傳與模特兒陳立泠交往，兩人曾被直擊一同看電影，卻因女方疑似向媒體潑水的爭議事件引發風波。事後陳立泠公開致歉，但林俊傑形象一度受挫，據悉兩人僅交往約9個月便分手收場。
除此之外，林俊傑也曾與「台大五姬」、同門師妹金莎、合作歌手鄧紫棋、八點檔女神高宇蓁，以及多名圈外女性傳出緋聞，皆未獲本人證實。如今，林俊傑首度打破多年低調作風，公開認愛24歲網紅女友七七，甚至大方分享「見家長」畫面，足見女方在他心中的重要地位。
