问题现在已很清楚。如果日本想要这项公约，它就不得不承担一些针对民主国家的军事义务，而不是只反对苏联一国。在这个问题上，东京也加入了斗争，那里主要的反对者是板垣和米内。在1939年3、4月间，德国和意大利在侵略欧洲方面所取得的显著进展，例如在捷克斯洛伐克和阿尔巴尼亚所取得的胜利，增强了日本方面赞成迎合轴心国愿望的那派人的势力。英苏谈判的开始，也起到了同样的效果，因为日本人担心英苏之间达成的协议除适用于欧洲外，还可能延伸到远东。所有这一切都增加了对平沼内阁施加的压力，要它缔结那个广泛的军事同盟。其结果是，在3月25日起草了一个新的指示，在这个指示中日本政府多少是从它在伊藤训令中的立场后退了一步。除了日本建议把条约期限从十年减为五年外，附去的一份日本所拟的三国条约草案，“与德意两国的草案基本上一致”。现在日本政府在原则上同意了承担给予轴心国军事援助以反对民主国家的义务，但解释说，由于政治上，特别是经济上的原因，日本还不可能公开地出来反对它们。因此，据大岛说，东京政府仍然希望有一个秘密的书面协议，规定在目前日本给予的反对民主国家的援助，应当限于除战争外的一切措施，并允许日本，如果它被问到时进行解释，说这项公约本身纯粹是针对共产国际的。据里宾特洛甫说，它要求德国和意大利政府给予“明确的同意”，允许它在公约签字和公布后向英国、法国和美国驻东京大使发表一个声明，表示这项公约不应被看作是针对他们的国家的。
大岛在3月底收到这些指示，并在4月初把主要内容通知了里宾特洛甫。4月2日，白鸟在罗马把这些内容告知了齐亚诺。但是意大利人把同日本谈判的事主要推给了里宾特洛甫。如果齐亚诺的叙述是可信的话，墨索里尼并不特别愿意把日本拉进来，无论如何他并不希望为了等待日本参加而延迟签订一项德意公约。齐亚诺与里宾特洛甫不同，在整个谈判过程中，他并不期望日本人最终会签订这项条约。在同希特勒商量后，里宾特洛甫告诉大岛说，德国可以同意把公约的期限缩短为五年。（希特勒指望在五年期满以前会发生战争。）但是，里宾特洛甫说，既然日本政府现在在原则上已经同意承担军事义务来反对民主国家，那他就不能再同意它想要在向那些国家解说时对这公约作一种不同的解释。他保证，日本的伙伴们决不会要求它做它力所不能及的事情；他并且再次建议不需要有任何秘密谅解，因为如果发生了条约中所提到的情况，那么应给予的援助的确切性质仍可以在条约签署后加以解决。里宾特洛甫显然决心不再对日本人让步，如果那样做会削弱公约作为一种对民主国家，特别是对美国的威慑力量的效果。另一方面，墨索里尼认为，日本加入公约，将使德意两国卷入美日在中国问题上的争吵，从而加剧美国对它们的敌视；因此，由于轴心国家同日本搞联合，美国支持欧洲民主国家的可能性就将会增加，而不是减少。在作出这种预测中，他显示了比里宾特洛甫更有远见。
在4月里，东京举行了一系列的核心内阁会议，对同轴心国结盟的问题作进一步的辩论。但是海军仍然坚定地反对承担可能会使日本同美国发生冲突的任何义务。4月19日，海军上将米内颇有把握地通知美国大使说，日本的政策已经决定了，那些希望日本实行法西斯主义并在日本、意大利和德国之间缔结一项三国公约的人已经被压下去了。然而，德国驻东京大使4月24日报告说，在日本政府内部发生了严重的冲突。与此同时，4月20日在庆祝希特勒生日的招待会上，里宾特洛甫警告大岛和白鸟说，如果日本继续拖延，德国可能要被迫同苏联缔结一项互不侵犯条约。但是这并没有产生所期望的效果，因为，正如前文所述，大岛和有田都认为这只不过是一种吓唬而已，而白鸟的警告则相反地被忽视了。25日，柏林收到了东京的一份答复，在其中日本政府仍坚持原先的条件。然而，德国驻东京大使在27日报告说，有谣言说日本政府正准备要抛弃他们；可是在柏林，大岛和白鸟都声称东京还没有作出最后的决定。在回答时，德国人催促他们从本国政府那里尽快得到一个最后的决定。他们产生以下这样的想法是对的：斗争还远没有结束。在东京，日本政治的幕后牵线人木户侯爵害怕发生一次军事政变，因此正在运用他的影响，力求在陆军和海军互相抵触的见解之间取得一个妥协办法，以避免受到威胁的内阁垮台和反对公约的人士可能会被狂热的爱国主义分子谋杀的危险。
5月4日，平沼为了想找到一个打破僵局的办法，于是通过德意两国的驻日大使将一份内容相同的私人声明分别送交希特勒和墨索里尼。在声明中首相宣称，日本真诚希望缔结这项公约，并且是真心准备给予德国和意大利以援助，包括军事援助在内，如果它们遭到第三国的攻击，即使苏联不在这些国家之列。但是在日本的目前处境之下，它在现时或在不久的将来，还不可能给予有效的军事援助，虽然当条件许可时它是会这样做的。因此，平沼要求德国和意大利同意日本所要求的秘密谅解，这种谅解在目前将使日本免除军事援助的义务，并准许它向第三国作出一种令人放心的关于公约的解释。
里宾特洛甫已准备多少让点步以满足一下日本政府的迫切要求，但是平沼的请求并没有能使轴心国家的独裁者们相信他的真心实意。他们怀疑，如果他们同意了他所要求的那种秘密书面谅解，日本人就会利用这项已公布的公约来吓唬、讹诈民主国家，要它们放弃中国的事业；而如果这种手法看来有可能获得成功，那就会进一步向它们泄露这些秘密条款，以证明日本并不是不可改变地必须同它们进行战争，如果它们拿起武器来反对欧洲的轴心国家。因此，虽然德国和意大利同意日本可以有若干它所要求的那种秘密保留，但它们坚持这些保留应采取口头声明的方式，而不是书面的协议。这样，日本就没有确实的证据能证明它不是完全受轴心国家事业的约束的，而在日本认为是一个良好机会的时候，也不会有什么东西“泄漏出去”了。
与此同时，里宾特洛甫对意大利人的坚持作了让步，5月6日在米兰同意缔结一项意德军事条约，并公开宣布条约不久即将签署。同时，在柏林，高斯和宇佐美正试图寻找一种方式来达成一项谅解，以调和德国和日本的不同观点；而德国驻东京大使5月11日也正在向柏林传送日本陆相和首相的恳求谅解和忍耐的信息。因此，里宾特洛甫注意到，意德公约必须以使日本便于参加这样一种方式来进行起草，他对日本的参加是仍抱有希望的。5月15日，他致电东京日本政府，告诉它德国和意大利现正准备缔结一项双边公约，对于它们在缔结三国公约之前就这样做表示歉意，坚持说这两项公约是可以共存不悖的，并敦促日本政府早日缔结三国公约而不要再拖延。由高斯和宇佐美起草的一项谅解的草案全文在同一天用电报发往东京，从而使那里的内阁又进行了讨论。日本政府并不反对缔结一项两国公约，但对缔结一项三国公约的计划仍犹豫不决。5月21日，东京正式宣称，政府已决定了对于欧洲局势应采取的政策。确实的决定并未透露，平沼发表的一项声明，则是一个空洞抽象的杰作。它指出，虽然日本同情德国和意大利，并希望领土的现状有所改变，但它要继续保持自己的行动自由。于是，在5月22日，意德公约正式签署而日本没有参加，但日本政府就条约的签署向双方发了贺电。
这事并不意味着东京的争吵已经完结，或者日本加入公约的可能性已不存在。日本人对英苏达成一项关于欧洲的协议的前景感到惊恐，因为他们害怕这会成为一项关于远东的谅解的开头第一步。5月17日，美国驻东京代办杜曼向本国政府报告了同有田的一次谈话，在谈话中日本外相说，尽管英国大使已向他明确保证，任何英俄协定将不适用于远东，但这还不足以消除日本人的惊恐。有田说，英法苏三国在欧洲密切合作的任何协议，最后势必会带来一个在远东的同样合作。所以在得知英苏谈判的结果以前，日本还不可能作出关于对欧洲的政策的任何决定。
大约在这同时，板垣告诉继大岛出任驻柏林武官并极力要求必须迅速作出决定的河相说，“关于条约的事，现在内阁正在进行认真的讨论，因为气氛正在变得有利于它的早日决定，我们最好还是暂时保持一下沉默。关于推翻内阁，我没有任何想法。”由此可见，5月21日的“决定”最多也只不过是一项普遍适用的公约的反对者们的部分胜利。内阁显然已同意采取等着瞧的态度，看看欧洲将会发生什么变化；与此同时，也不要使日本承担同苏联以外任何其他国家作战的义务。6月5日，核心内阁决定令大岛去通知里宾特洛甫：日本暂时还不能同民主国家进行战争，它并且坚持要有一项关于此事的书面谅解。里宾特洛甫在答复中作了让步，承认如果德国遭到除苏联以外的其他国家进攻，日本既然一时还不可能给与有效的援助，它可以保持中立；但他坚决拒绝在由日本全权大使就此事作一口头声明之外再给予任何让步。在这一点上谈判仍处于僵局，于是里宾特洛甫和大岛的讨论在6月中旬暂告结束。
然而，东京亲轴心国的派系远远没有被击败，显然仍在指望能达到自己的目的，特别是如果一项英苏协定能够签订，并接着爆发一场欧洲大战的话。在那种情况下，难道日本还能够超然局外袖手旁观吗？里宾特洛甫的一贯论点是：它不能够，它的命运是同德国不可分割地联系在一起的。英法苏三国全都反对日本的对华政策，如果它们联合起来在欧洲反对德国和意大利，并把它们打败，这三个大国随后就可以腾出手来转而对付日本，它这时就会发现自己是完全陷于孤立了。因此，里宾特洛甫说，日本不能够眼看着轴心国在欧洲失败，而应当立即同它们一起出兵，绝不要再有任何迟延。美国对这样一种行动将会采取敌视的态度，但无论如何它在远东是反对日本的，因此必须被日本看作是一个潜在的敌人。美国的舆论还很不一致，不允许华盛顿行政当局同欧洲民主国家并肩作战，更不用说同苏联在一起了。如果，当美国还在踌躇不决时，三个对现状不满的大国发动进攻，并战胜了它们的欧洲敌人，那么美国在那以后还能在欧洲或亚洲做些什么来反对它们呢？
平沼反对这些看法，因为他怀疑德国和意大利能在欧洲战争中取得胜利，而且也因为他认为美国的干预也许是一定会来临的。所以，他所主张的政策看来就是要避免最终无可挽救地对轴心国承担义务，但也应该利用这种可能的承诺来威胁民主国家，从而取得一种进一步的绥靖办法。他已注意到罗斯福总统4月14日给希特勒和墨索里尼的电报。在他看来，美国的新外交行动是一个迹象，表明如果发生战争，美国可能会参加进去以反对轴心国家；同时它也提出了一种办法，以使迫在眼前的冲突有可能得到避免，并使日本的亲轴心国集团完全失去立足的根据。
因此。5月18日，当格鲁准备回华盛顿休假时，有田把平沼的一封信交给他，请他转交给国务卿，并引起总统对它的注意。在信中平沼提到了欧洲受到的战争威胁，以及战争将使文明遭到的危险。他说，作为两个非欧洲大国，美国和日本的责任就是，竭尽它们的一切力量来防止这样一场灾难的发生。日本首相建议，对德国和意大利，也许可以劝它们在提要求方面更加忍耐一些，但是英国和法国也应重新考虑它们的维持现状的政策。日本政府殷切希望一切国家在世界上都应有其适当的地位，这正是真正的世界和平能够建立的途径。在这里存在着日美两国更加密切合作的可能性，这种合作可以为加深两国相互之间的了解奠定基础。
5月23日，平沼继这一建议之后又在东京郊区私邸中秘密邀请杜曼共进晚餐。在这里他告诉杜曼说，日本不能把它自己同任何一个这样的外国政府拴在一起，它的稳定性竟要取决于某一个人的继续存在。在德国和意大利，在表面底下都有着政治暗流，它使得别人不可能完全放心地同这两个大国结盟。到了战时，平沼说，这些持不同政见分子将显示出他们的力量，将成为对德国和意大利的军事胜利的一个威胁。平沼还建议召开一次国际会议，来讨论正在威胁着要引起一场世界大战的那些政治和经济问题。倘若总统愿意去探询一下英国和法国是否愿意参加这样一次会议，那么，平沼也愿意去对德国和意大利做同样的工作。如果这四个国家都同意参加，那么平沼将很高兴看到，罗斯福总统在通过正常的外交渠道可以取得对方的同意这种条件下，向它们发出正式的邀请。
杜曼警告日本首相说，只要在美国看来日本政府正在执行的对华政策与欧洲侵略者国家所奉行的政策相类似，美国政府就不愿同日本政府进行这样的合作。“按照使一切有关国家都感到满意的条件调整在中国的冲突，这必须是美日两国能够合作到什么程度的一个先决条件，可以合乎情理地期望，这样将会给欧洲带来人们所希望的结果。”
平沼回答说，如果美国政府主张，解决在中国的冲突必须成为美日两国共同合作来防止欧洲发生战争的一个先决条件，那么对这种合作的任何希望都只好放弃。他宣称，日本在中国所要达到的目的，在一个对它实行制裁、禁运、关闭市场和缺少自由取得原料的途径的世界里，对日本来说是必不可少的。只要这种情况仍然存在，修改日本对华媾和条件的任何要求都是不能予以考虑的。但日本愿意看到把远东局势问题也列入拟议中的会议的议程。平沼还说，如果条件具备，保证各国�