Hiro74さん、ご相談ありがとうございます。
現在お勤めの会社に在籍したまま、個人で起業する際の問題点をお知りになりたいというご相談ですね。
便宜上、本回答では現在お勤めの会社でのお仕事を「本業」、新たに個人で実施される行為を「副業」とします。
「サラリーマン」とお書きなので、副業を行うことが法令で制限されている公務員や公務員に準ずる職業ではないこと、また、「起業」ということなので、他の会社等に就職するのではなく、副業として個人でお仕事をされるという前提でお答えします。

１．お勤めの会社との関係
副業については、公務員等を除いて、法令で取扱いが明確になっているわけではありません。正社員であれば就業規則で副業が禁止されていないかなど、「会社に在籍したまま個人で起業することを会社が許容しているのかどうか」の確認が必要になります。従って、まずHiro74さんがお勤めの会社での労働契約書や就業規則等において、副業がどういった扱いになっているかを確認しましょう。

（１）手続きが明確なケース
就業規則等で副業が認められており、副業を行うための社内手続き等が明確になっている場合は、その内容に従って具体的に手続きを進めましょう。

（２）明確でないケース
労働基準法において、副業に関する規定は、労働契約書や就業規則で明示、記載が必須な事項にはなっておりません。また、就業規則は、常時１０人以上の労働者を使用する使用者に作成義務がありますので、お勤めの会社に就業規則がない場合もあります。従って、副業に関する規定がない、または公開されていないことがあり得ます。
この場合には、お勤め先のご担当者や上司の方などに、副業についての規定の有無や内容を確認しましょう。

（３）副業が認められないケース
就業規則等で副業が禁止されている場合や明確な規定はないものの副業は認められないという会社の見解が示された場合は、現在お勤めの会社のしかるべき方と、Hiro74さんのご意思をどう実現するかを協議することになります。
もし、当事者だけでは解決が困難という場合であれば、弁護士や社会保険労務士等の専門家を交えて解決を行う方法があります。東京都での関連機関のホームページをご紹介しておきます。
http://www.horitsu-sodan.jp/soudan/
http://www.tokyosr.jp/

（４）モデル就業規則
厚生労働省は、平成２９年１１月に「モデル就業規則改定（案）（副業・兼業 部分）」を発表しました。事前に会社に所定の届出を行った上で、「勤務時間外において、他の会社等の業務に従事することができる。」といった内容になっています。
これはあくまでも就業規則のサンプルであり、法令として拘束力のあるものではありませんが、副業について就業規則として明確な規定を置くべきという方向性が示された点
で意義のあることだと思います。
http://www.mhlw.go.jp/file/04-Houdouhappyou-11911500-Koyoukankyoukintoukyoku-Zaitakuroudouka/0000189308.pdf

また、副業を行う際の注意事項として下記のようなことがあります。
・競合他社での副業については違反すると解雇事由になることに加え、損害賠償請求の対象になることもあるので注意する必要があります。
・本業の勤務時間中での副業や副業での疲労で本業の業務遂行に影響が出る等、本業に支障をきたすような行為は避けましょう。

２．関連する法制度
副業に関して、法制度として関連がある項目をまとめました。

（１）税制
副業で得た収入については、その種類や所得金額により、必要な手続きと納税を行なわなければなりません。

1.所得税
所得税は、納税地を所轄する税務署に対して所定の時期に確定申告をすることによって納税します。確定申告は、給与を1か所から受けていて、各種の所得金額(給与所得、退職所得を除く)の合計額が20万円を超える場合に必要です。所得金額は、収入から必要経費を引いた額となります。詳細は、国税庁のホームページ等をご覧ください。
http://www.nta.go.jp/taxes/shiraberu/taxanswer/shotoku/2020.htm

2.住民税
住民税は、東京都の場合、都民税と区市町村民税を合わせたものを言い、その年の１月
１日現在の住所地の市町村または特別区が一括して徴収するものです。
給与所得者については特別徴収という制度があり、原則として給与を支払う事業主に従業員の住民税を徴収する義務がありますので、住民税は副業での収入の分も含めて給与から源泉徴収されます。下記は東京都主税局の関連ページです。
http://www.tax.metro.tokyo.jp/kazei/kojin_ju.html

3.消費税
副業で年間1,000万円を超える課税売上高となった場合は、消費税の確定申告が必要になります。なお、開業の初年度とその翌年度の２年間は消費税の納税が免除されます。
https://www.nta.go.jp/publication/pamph/koho/kurashi/html/01_3.htm

（２）社会保険
副業における社会保険の取り扱いについては、Hiro74さんの実際の条件で内容が変わってくる可能性がありますので、現在お勤めの会社にご確認ください。

1.健康保険
Hiro74さんは「サラリーマン」とのことですので、健康保険法上の被保険者(全国健康保険協会ないし健康保険組合）であると思われます。保険料は事業所から受ける報酬をもとに計算した標準報酬に基づいて決定されますが、副業での個人の収入は標準報酬には加算されないので、影響はありません。

2.厚生年金保険
同様に、Hiro74さんは、厚生年金保険法上の被保険者で、同時に、国民年金保険法上の第２号被保険者であると思われます。副業を行ったとしてもこの関係は変わらず、厚生年金保険の標準報酬も変わりませんので、影響はありません。

3.雇用保険
雇用保険は事業主を被保険者とはしませんので、個人事業主としての副業は対象にはならず、現在お勤めの会社での雇用保険がそのまま継続となります。

4.労災保険
本業における労災保険関係に副業は影響しませんが、労災保険は事業主を適用労働者としませんので、副業において業務災害や通勤災害が発生した場合、労災保険の保護の対象にはなりません。

３．まとめ
政府の「働き方改革実行計画」（働き方改革実現会議、平成29年3月)によれば、「副業や兼業は、新たな技術の開発、オープンイノベーションや起業の手段、第２の人生の準備として有効」 という認識のもと、「副業・兼業の推進に向けた ガイドライン等の策定」を進めていくとされています。
http://www.kantei.go.jp/jp/headline/pdf/20170328/05.pdf

世の中の追い風も活用し、ユニークな働き方を実現して充実した人生をお送りください。