所以黄金荣称自幼生长在上海的漕河泾。黄金荣9岁时被送到私塾去上学，但他并不认真读书，而是喜欢到住所附近听捕快们讲述破案的故事，或到赌场去观看赌博。不幸的是，黄金荣因染上天花而落下一脸麻子，后来就有了“麻皮金荣”的绰号。
光绪七年（1881），黄炳泉病故，黄家失去了主要的经济来源，黄金荣一家陷入了贫困之中，只能靠母亲替人家洗衣服勉强维持生活。年仅14岁的黄金荣也只好到外面做杂活混口饭吃，以减轻母亲的负担。17岁那年，黄金荣进入一家裱糊店当学徒，每月只有400文（40个铜板）的“月规钱”，仅能勉强糊口。而且每天除了学手艺，还得干杂活，一天下来，已经是筋疲力尽。后来学徒期满，有了一些工资，他便到茶馆区去同一些流氓鬼混。这时，他结识了上海青帮头目之一陈世昌，绰号“签子福生”。陈世昌也是苏州人，是上海青帮通字辈，在小东门（现在的中华路、东门路）一带靠套签子骗人为生。他吃喝嫖赌样样精通，麻将、牌九、押宝等赌术门门高明，在上海赌博行业颇有名气。他教黄金荣赌博，带他去玩女人，甚至一起抢劫分赃，把黄金荣完全带入了黑色世界。
经过陈世昌的指点，黄金荣很快掌握了全套赌术和嫖妓女的本领。黄金荣因为勾引上绰号“黑皮长贵”的妹妹程杏花而遭毒打。“黑皮长贵”没有固定职业，有时摆地摊，有时卖苦力，时常偷拿扒窃，或寻衅敲诈，甚至拦路抢劫。他整日在外面鬼混，直到夜深人静才回家。一天晚上，黄金荣正同杏花在床上鬼混，未想到“黑皮长贵”突然回家来，黄金荣慌忙穿好衣服，从后窗跳出逃走。杏花在“黑皮长贵”的追问下，不得不承认与黄金荣上床的事。结果黄金荣被“黑皮长贵”的弟弟堵在路上毒打了一顿。黄金荣便到陈世昌那里诉苦，请求帮助报仇。陈世昌立即找到在衙门当捕快的青帮弟兄，把“黑皮长贵”绑到衙门下了监狱。“黑皮长贵”获释后知道自己不是对手，只好卷起铺盖搬走。
黄金荣看到衙门的差使十分了得，特别是他自幼受到当捕快的父亲的影响，回忆起父亲当年当捕快时的威风和对黑白两道各色人物的崇拜，使他对捕快这个差使十分羡慕。尤其是对帮助他对付“黑皮长贵”的李捕快，更是崇拜得五体投地。后来，他向陈世昌和其他兄弟借了一笔钱，准备了一份厚礼，终于也当上了一名捕快。但是日子久了，他又觉得捕快的工作太辛苦，因为那时上海县属于松江府管辖，他每天要把公文送到松江府去，往返150多里路，经常穿着蒲鞋，背着雨伞，提着灯笼，从凌晨三四点钟出发，要深夜八九点钟才回到衙门。捕快虽然可以仗势欺人，找些外快，但是毕竟太辛苦了，因此他又想找别的出路。
黄金荣22岁那年，遇到了一位“贵人”，就是法国驻上海副领事兼法租界总监的翻译官曹显民。当时，黄金荣正在老北门当差，对每天经过这里的曹显民，毕恭毕敬，给曹显民留下了颇深的印象。。电子书下载1893年，法租界为了推行“以华治华”的策略，需要招募120名华捕，黄金荣前往报名。结果被曹显民看到，将他录取。租界的巡捕分为两类：一类是巡捕，包括巡士、巡长、巡官；另一类是密探，俗称“包打听”，包括探员、探目和探长。中国籍的巡捕简称“华捕”。经过一阶段的训练，黄金荣被分派到油水较大的十六铺地段值勤。正如黄金荣自己所说：“做包打听，成为我罪恶生活的开始。”
黄金荣当上华捕后，时常到城隍庙得意楼去喝茶，趁机结识了那里的地痞流氓和青红帮分子。当时人们通常把地痞流氓称为“郑家木桥小瘪三”，黄金荣逐渐同这些人混熟了，便利用他们来为自己服务。
现在上海的延安东路，原来是一条宽阔的小河，是黄浦江的支流，名叫“洋泾浜”。位于“洋泾浜”的郑家木桥是英租界（即公共租界）与法租界的交界处，这里商贾云集，十分繁华，也是地痞流氓活动的场所。因为法租界的巡捕不能到英租界捕人，反之，英租界的巡捕也不能到法租界办案。这样，流氓、小偷在法租界作案，便跑到英租界躲避，反之亦然。黄金荣为了得到法国主子的青睐，显示自己侦缉才能的高超，便用小恩小惠收买了流氓瘪三和小偷惯窃的头目丁顺华和程子卿，作为眼线。同他们讲明，如果同他合作，有事被捕可以保释。于是让眼线们到租界内去抢劫，黄则密报法国人，将眼线们一网打尽，然后他又设法把他们解救出来。如此连续侦破几次窃案后，法国人果然对他另眼相看。
为了对商店老板进行敲诈勒索，他又唆使一班小流氓到当地商店去捣乱或假装打架骂街，黄金荣便随后赶到，将小流氓赶走，他在店主人面前充当好人，让人感到小流氓们见了黄金荣如同老鼠见猫一样，以为黄金荣果然本领高强。他又让门生对老板们说，遇到任何事，只需托黄老板出面，一定可以平安无事。一些商店老板或富户，为了保平安，只好逢年过节向他送礼，有的还拜他做“先生”。
黄金荣在晚年回忆说：
在租界时候，巡捕房是外国人专制管理的，租界里的百姓，因为我是巡捕房里的包打听，所以认为包打听能有法子可以与外国人接近，讲得上话。所以，卖烟土的、开赌台的人，都来与我商量，托我去运动法国头脑，谋求太平。等事体成功后，他们送些钱给我。还有一辈子做生意的人，因为怕被人欺负，也托人介绍，拜我做先生。希望能够依靠我的情面不被人家欺负。但是，里面难免有行为不好的人，时常借我的名义，在外面讲斤头，做不好的事情。我在旧法大马路聚宝楼做茶会间（这是包打听平时碰头的地方），用了不少伙计，在外面打听盗贼线索与行动，每天在茶会间报告我，好去破案。
他时常唆使一些流氓瘪三在商店门前闹事，寻衅取闹，影响商店营业，使顾客远而避之，不敢进去购买东西。然后他则带着巡捕和便衣包探上街巡逻，每到一处，闹事的流氓瘪三便逃之夭夭，有时黄金荣还故意抓起几个小流氓来惩办，借以显示他的威风。
对于不肯买账的富豪，黄金荣则用绑架的办法进行敲诈勒索。他曾唆使徒弟丁永昌把富商荣德生绑架，向荣家勒索了几十万元的巨款。并威胁荣家说，如不把钱送到就“撕票”。荣家无奈，只好如数支付，荣德生才获释。光绪二十四年法租界发生了一起“四明公所案”，黄金荣又乘机勒索到一笔巨款。四明公所地处法租界内，是上海宁波人同乡会寄放棺木和埋葬死者的地方。1849年法国租界建立后，四明公所被划入法国租界，法国人对租界内的坟墓十分反感，千方百计想把坟墓迁走。光绪二十四年（1898），法国租界当局借口修建医院，要求四明公所搬迁，并且与宁波人发生冲突，法国士兵开枪打死15名中国人。宁波人因为在事件中有15名同乡被打死，而且公所的围墙也遭破坏，于是纷纷举行抗议，法国租界当局也被迫妥协，答应给予赔偿。黄金荣得知这些钱都掌握在公所的甘董事手中，于是指使徒弟将甘董事绑架，然后向甘家勒索到2000块银圆，并强暴了甘董事的小妾。
黄金荣在处理四明公所的事件中，玩弄的“刀切豆腐两面光”的手法，引起了法国人的不满，加上有人向巡捕房总监督报告，说黄金荣有与流氓盗匪串通一气的嫌疑。巡捕房总监督便趁华捕们在新年拜年的机会，当面向黄金荣提出了自己的怀疑。黄金荣当时已经小有名气，无法忍受这种侮辱性的指责，于是同巡捕房总监督顶撞起来，最后干脆辞职不干了。
离开巡捕房后，黄金荣想起苏州尚有父亲的老朋友，于是决定回到苏州去闯荡。黄金荣来到苏州后，先是在一家天后宫戏馆当管事和保镖，后来摸熟了情况，干脆自己开了一家“共和戏馆”。他自己既是老板，又是保镖，生意非常兴隆。这时，他又认识了大胆泼辣的女人林桂生。
林桂生的父亲做当铺生意，母亲曾经是烟花女子，她出生在农历的八月十五日，故父母给她取名“桂生”。后来父亲去世，剩下孤儿寡母相依为命，时常遭人欺侮，所以，希望找个上门女婿作为靠山。母亲看中了苏州衙门里的马捕快，招赘为上门女婿。马捕快是个胸无大志的人，只求过平安的日子，而林桂生却不安于这种平淡生活，对自己丈夫的无能颇为不满。恰好这时黄金荣出现了，黄金荣在上海县衙当捕快时，因公务曾与马捕快有过交往。黄金荣来到苏州，便来拜访这位老朋友。黄金荣拜访马捕快，一来是为了看望老友，二来是请他帮忙，免得流氓到他开的戏馆捣乱。可巧那天马捕快不在家，黄金荣说明来意，林桂生便痛快地替丈夫答应下来，并且唆使丈夫去找那些流氓头头，告诫他们，不许到黄金荣的戏馆去捣乱，倒可以去捧场。果然，此后那些流氓来到戏馆，不仅大把掏钱买茶买烟，而且开唱后还大声叫好捧场。黄金荣明白这是马捕快在起作用，于是备了礼物到马捕快家里去表示感谢，并热情地邀请林桂生到戏馆看戏。正好林桂生是个戏迷，平日总喜欢到戏馆看戏，遂成了黄金荣戏馆里的常客。每逢上演新戏，黄金荣便在台前中央给她预留座位，摆满茶点水果。林桂生一到，黄金荣还亲自出来相陪。林桂生也时常邀请黄金荣到家里来吃饭，作为回报。时间长了，两人便产生了爱慕之情。最初是偷偷摸摸，后来干脆赶走了马捕快。不久，黄金荣又应巡捕房总监督之邀请，与林桂生一同重返上海滩。临行前，二人在苏州正式结为夫妻！
黄金荣重返上海滩之后，在巡捕房官复原职，又召集郑家木桥的流氓瘪三，相互配合，使黄金荣的办案本领，更加凸显出来，不仅很容易追回赃物，而且能顺利抓获盗贼，先后破获了数起大案、要案。
（1）抓捕了太湖大盗“黑风”
“黑风”是19世纪90年代末江苏常州的一个太湖大盗。他武艺高强，又有一群凶残强悍的弟兄，个个都是身怀绝技的亡命之徒。他们打听到常州有个巨富，家中藏有一颗价值连城的“夜明珠”。于是带领弟兄们将该巨富的家里抢了个一干二净。受害人觉得当地官府无能，便向上海法租界的巡捕房报案。此案本来不该巡捕房受理，但巡捕房的总监督觉得此案涉及巨富，肯定有利可图，于是派黄金荣侦查此案。黄金荣派手下的丁顺华和程子卿去侦察“黑风”的下落，丁、程二人又找到徐福生等人，派出诸多个小瘪三作为眼线，到各处去打听，很快就找到了线索。他们发现苏州城西的枫桥镇上的一家人，最近来了许多陌生人，而且行动诡秘，原来这里是“黑风”姘妇翠喜的家。黄金荣接到情报后，立即带领丁顺华和程子卿等几名精干的巡捕，携带枪支弹药和刑具，从上海赶往苏州。在同苏州衙门接洽后，衙门表示愿意鼎力相助，共同破案。黄金荣亲自带领巡捕来到“黑风”藏匿的翠喜之家，指挥大家将宅院包围起来。黄金荣本人纵身越过院墙，潜至窗下，发现“黑风”正在与姘妇偷情。“黑风”发觉外面有动静，急忙将灯熄灭，跳出屋外。黄金荣见状，立即冲上擒拿。经过一番打斗，最终将“黑风”制服，逮捕归案。
（2）破获间谍谋杀案
1900年八国联军侵占北京期间，在上海法租界的一所住宅，发生了一起英国间谍丈夫杀害法国间谍妻子的谋杀案。在法租界杜美路94号住宅，一位法国籍中年妇女被谋杀，身上共有三处刀伤。经过现场勘测，黄金荣认为最大的嫌疑犯就是这家的男主人。法国探长由于人地生疏，很难将案件侦破。黄金荣觉得这正是显示自己技高一筹的好机会，于是立即召集手下人，带上男主人的照片，四处打探。巡捕房的人手不够，他便派人去找郑家木桥的流氓瘪三，让他们帮助寻找线索。经过几天的侦查，在英租界终于有人从照片上认出了这位男主人。最后查明那位男主人，经常在英租界里的一所住宅出入，住宅里住着母女二人，母亲并未结婚，却有一个18岁的女儿。当黄金荣找到那位女孩后，得知照片上的人正是女孩的父亲，她说父亲在法租界还有一个妻子。最后，黄金荣终于查明事情的真相：原来那位男主人和他在英租界的情妇都是英国间谍，被杀的法国妇女则是法国间谍。
（3）侦破宋教仁被刺案
1913年，国民党的重量级人物宋教仁被袁世凯派人暗杀。袁世凯为掩盖事情真相，便派人到处造谣，说刺杀宋教仁是革命军沪军都督陈其美所为。国民党人对于宋教仁的被刺，本来已经十分悲痛，又遭到袁世凯的诬陷，更是义愤填膺，决心抓住凶手，报仇雪恨。于是一面请英、法租界当局缉拿凶手，一面联络各地同志侦破此案件。陈其美乃是上海青帮首领，又同黄金荣有些交情，于是请他帮忙，并且悬赏10000元，加上沪宁铁路也悬赏5000元。如此巨大的赏金，促使黄金荣和英、法租界巡捕房的探子们，积极行动起来寻找破案线索。
英租界巡捕房首先发现了线索，一个名叫王阿法的古董商人来到巡捕房，指控一个名叫应桂馨的人，曾经拿给他一张照片，要他去行刺此人，答应事成之后，付给他1000元报酬。宋教仁遇刺后，他从报纸上看到，照片上的人正是宋教仁。英租界巡捕房的探子发现，应桂馨经常到英租界的妓院去嫖娼。黄金荣得到这个消息，立即带领探长金九龄和程子卿，连夜赶到文元坊搜查。他们首先将应桂馨的住处团团包围，然后闯入宅内清点人口。虽然未找到应桂馨，却发现有一个操山西口音的矮个男子，突然扭头逃跑，黄金荣立即追赶。那人穿过客厅，来到一堵后墙下，迅速翻上墙头，跳向墙外。黄金荣也翻墙扑去，正巧砸在那人身上。两人在墙外扭打起来。这时，巡捕们也纷纷赶到，将那人捉住，押回应宅。黄金荣看那人觉得有些面熟，忽然想起那人不久前曾犯案在巡捕房坐过一个月的