1899年的波兰，争取民族自治的呼声高涨，很多俄属波兰与立陶宛党派与俄罗斯当局开展了以提高自治权为目的的谈判，1892年11月成立的波兰社会党是唯一拒绝与俄罗斯当局对话的政党，不仅如此，波兰社会党还坚持以武力复国。
为实现自己与社会党的政治抱负，皮尔苏茨基决定寻求外援，把日本作为了争取外援的对象。
日俄战争爆发后的1904年夏，皮尔苏茨基前往东京。
在当时写给日本政府的信函中，皮尔苏茨基试图说服日本政府援助波兰革命：
“波兰在俄罗斯国家构成部分中的力量和重要性鼓励我们将俄罗斯分裂成几个大的组成部分，光复被强制吞并入俄罗斯帝国的各个国家的政治目的。我们这样做不仅仅是为了取得让我们国家的文化独立存在的成果，也是为了保持这个成果，因为俄罗斯失去了它所征服过的地带，实力就会削弱，它就不再是可怕而危险的邻居了。”
皮尔苏茨基的计划是他提供帝俄情报给日本，换取他招募日本人关押的俄军战俘中的波兰人组建波兰军团。
日本政府拒绝了皮尔苏茨基组建波兰军团的建议，但是向他和他的政党提供了组建武装力量的枪支弹药。依靠日本的军火，皮尔苏茨基组建了波兰社会党的准军事组织----波兰社会党战斗团，开始武装斗争与帝俄玩命死磕。
1904年10月28日，帝俄哥萨克骑兵镇压由波兰社会党组织的示威游行。在11月13日的再次游行中，皮尔苏茨基的波兰社会党战斗团毫不客气向俄罗斯军警开火，正式以武力争取独立。
1905年俄国爆发革命，皮尔苏茨基一边组织工人罢工，一面开始以炸弹招待俄罗斯警官。到1906年波兰社会党战斗团的城市游击战已全面升级，他们以3-5人的小组活动，短短一年内用枪击、炸弹袭击等各种手段刺杀的俄罗斯官员达336人之多！
由于皮尔苏茨基以武力争取独立的强硬立场，波兰社会党在1906年11月分裂，他所率领的被称为“革命派”的一批人马继续坚持武力争取独立。
由于奥匈帝国与俄罗斯已渐成敌对，1906年，皮尔苏茨基在奥地利当局的默许下，在奥属波兰的克拉科夫成立了一座军校，训练自己的武装力量。由于有奥匈帝国境内的可靠后方为依托，组织严密的波兰社会党战斗团规模不断扩大，到1908年已达到2000多人！
队伍大了，军费就成了急需解决的大问题，皮尔苏茨基索性“劫富济贫”：专门劫掠由华沙发往圣彼得堡的俄罗斯税款。在1908年9月的一次打劫中，他们一下变得土豪了，劫得税款计200812卢布之多，足够抵得上波兰社会党战斗团之前两年的全部收入！
1908年，有钱的皮尔苏茨基再次将他的准军事组织更名为“战斗协会”, 主要为未来的波兰军队训练军官与士官。
到1910年，在奥地利当局的许可下，皮尔苏茨基成立了一系列“体育俱乐部”，后来更名为步兵协会，为训练波兰军队提供场地·。
1912年，皮尔苏茨基（使用假名“梅奇斯瓦夫”）成为步兵协会的总司令，协会到了1914年，已经增长到了12000人。
1914年，随着武装力量逐步发展壮大，皮尔苏茨基越来越坚定以武力争取独立的路径：“现在只有剑才能够决定国家的命运。”
皮尔苏茨基这样说是因为他嗅到了第一次世界大战即将爆发的火药味。
在巴黎的某次会议上，皮尔苏茨基大胆预言：波兰会随着战争的爆发而独立，俄罗斯将会被结盟的德国与奥匈帝国所击败，而胜利者也终究会被法国、英国和美国所制服。
皮尔苏茨基的剑要出手建功立业了！
