为了适应战争的需要，打赢北洋舰队，日本政府对海军进行了大规模战前整编，联合舰队便是多次改编的结果。此时日本海军拥有32艘军舰，共六万余吨，另有鱼雷艇24艘，还将西京丸等商艘改装成军舰，总吨位达到七万二千吨。早在丰岛海战之前，日军大本营方面对海军进行了整编，先是将分属三个镇守府的五个海军区建制被取消，随即又改编成常备舰队和警备舰队两支舰队，不久又将警备舰队改称西海舰队，并将两支舰队合编成一支新的舰队，这支舰队日后将成为日本海军的标志：联合舰队。海军中将伊东祐亨任舰队司令，海军少将井坪航三为先锋队司令。后来在日俄战争中一举成名的东乡平八郎，此时还只是浪速舰的舰队。

　　日军大本营及时地将分散于全国各海区的舰队整编成一支舰队，目的是为了统一指挥以集中力量对付中国海军，因为他们知道中国海军在李鸿章的主持下虽然经营艰难，但是仍然具有较强的实力，如果不集中全国海军力量很难有战胜的把握，令人遗憾的是中国海军并没有采取针锋相对的整编措施。
　　中国此时海军一共有四支舰队，北洋海军，南洋海军，福建海军，广东水师。其中最强大的是北洋海军，拥有大小战舰二十余艘。其他三支海军，只有南洋海军实力稍微强大一些，拥有南琛等五艘二千吨级的巡洋舰，福建海军在马尾一战中遭受重创之后，再也无法恢复元气，基本算是名存实亡了，广东水师一直发展极为低迷，缺乏能够出洋作战的大型战舰，只有千吨级左右的小型炮艇，在海岸协助防守还勉强凑合。可是从战争的整体战略来看，这三支舰队虽然实力不如北洋强大，但是如果加以有效整编，还是能在一定程度上增加以北洋舰队为主体的中国海军实力，可是现在只有北洋舰队独自面对日本的全部海军——联合舰队。

　　联合舰队的战斗序列是：
日期：2012-09-16 21:00:01

　　本队：松岛（旗舰）、千代田、严岛、桥立、比睿、扶桑
　　第一游击队：吉野（旗舰）、高千穗、秋津洲、浪速
　　第二游击队：金刚（旗舰）、葛城、大和、武藏、高雄、赤诚
　　第三游击队：筑紫（旗舰）、大岛、摩耶、爱宕、鸟海
　　本队附属舰：八重山、盘城、天城、过江丸
　　鱼雷母舰：山城丸大小鱼雷艇若干艘
　　第三游击队大多是数百吨级的小舰，只有旗舰筑紫是超勇和扬威的改进版，早就过时了，所以用来守卫本土沿海；第二游击队多是千吨级的旧式巡洋舰，主要用来牵制北洋舰队，起的是干扰作用，实战作用不大。主力舰都集中在本队和第一游击队，它们承担着与北洋舰队决战的重大使命，指挥起来非常灵活。经过改编的联合舰队更有攻击力，黄海决战时这种优势将会充分地展示出来，并成为影响战局的一大因素。

　　其实中国海军也可以进行针锋相对的改编，并较大地改善海军的作战实力。如果将南洋的五艘两千吨级的巡洋舰调到北洋，与北洋舰队原有的七艘两千吨级的主力舰合编成北洋舰队本队，则有十二艘主力舰，比联合舰队本队和第一游击队的十一艘主力舰还要多出一艘。北洋舰队的超勇和扬威可与另外三支海军千吨级的军舰组成第二队，数百吨级的军舰则可组成第三、四小队，如此一来四支舰队分工合作，协同作战，近则可守，远则可协助主力进攻，对联合舰队也是一种极大的威胁，不但可以控制制海权，而且可以在决战时进行第二轮打击，果能如此，情况必将大为改观。

　　可惜这一切都只能是无谓的假设，朝廷的海军衙门不作为，李鸿章对他们也没有太多的兴趣，其他三支海军本来就有半军阀的味道，也就乐得坐山观望，北洋舰队只好凭借一己之力，独自艰难应对全日本的海军，焉能不败？
　　黄海大战之前，联合舰队已经将基地北移至平壤下游大同江口附近的渔隐洞海域。9月14日，联合舰队侦察到北洋舰队的主力不在威海基地，于是决定寻找北洋舰队决战，伊东祐亨命令第二游击队留守仁川掩护第一军登陆，亲率本队、第一游击队、第三游击队前往大同江进发，并四处侦察，结果没有发现北洋舰队。两天之后，在得到宗方小太郎的确切情报之后，伊东祐亨亲自挑选了十二艘军舰，前往大东沟寻战。

　　这十二艘军舰，由联合舰队本队的松岛、千代田、严岛、桥立、比睿、扶桑，第一游击队的吉野、高千穗、秋津洲、浪速，以及西京丸和赤城组成，本队和第一游击队十舰都是最能打的主力舰。很明显，联合舰队出动了所有的主力舰。
　　不是有赤城和西京丸吗，它们总不是主力舰吧，不也带来了？
日期：2012-09-16 21:05:43

　　你别激动，这两艘的确不是主力舰，但是却有特殊的用途。赤城是一艘只有六百吨的小炮艇，根本打不了海战，之所以带着它，是因为方便进入浅水区寻找目标。西京丸是艘四千吨级商船改造的代用巡洋舰，海军军令部长桦山资纪就坐在上面，他是来观战的。就是这艘西京丸，还让北洋舰队在黄海大战中做出了错误的判断，影响了火力攻击。

　　伊东祐亨带上了日本所有的主力战舰，千里奔袭，在茫茫的大海上展开了搜索，寻机歼灭北洋舰队。就在这时，天色为之突变，这一夜狂风大作，大雨倾盆，电闪雷鸣，海浪翻滚，伊东祐亨指挥联合舰队顶风冒雨，不顾一切地向海洋岛疾进。
　　海洋岛在大东沟西面方向。联合舰队之所以不从大东沟东面进军，而是先到海洋岛，然后再折向北返回前去大孤山，再经大洋河口去大东沟，就是为了不错过北洋舰队，这样一来才能确保拦截到北洋舰队，并迎头出其不意地发起攻击。
　　为了不被北洋舰队发现，达到突然袭击的效果，伊东祐亨命令，除了先导舰开启航灯外，其余各舰全体熄灯，摸黑前进。9月17日早晨，经过近乎绝密的长途航行，第一游击队率先顺利抵达海洋岛，随后向东北方向的大孤山前进，大洋河口已经远远在望，大东沟就在不远的前方。如果情报无误的话，应该很快就能找到北洋舰队。联合舰队本队随后进发，他们坚信自己的情报系统是准确的，所以一路行来，尽管困难险恶重重，但他们却没有丝毫的懈怠。

　　1894年9月17日，上午10点23分，联合舰队的头舰吉野号，在经过一夜的奔波之后，终于发现东北方向有几缕黑烟，急忙向旗舰松岛报告。
　　从望远镜里来看，伊东祐亨发现，这正是他苦苦寻找了几天的北洋舰队，而且是全部的主力舰，紧张和兴奋同时向他袭来。主力决战的时刻终于来了。