V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
hidev
V2EX  ›  分享创造

我下载了“整个” Hacker News

  •  1
     
  •   hidev · 29 天前 · 3438 次点击
    一个多月前,在这里分享了 tophn.co ,它可以帮助你以现代化的方式快速浏览 Hacker News 榜单,包括多语言 AI 翻译、总结、文章封面、RSS 等功能。

    但是之前只抓取了近几年的数据,这次狠下心直接把 Hacker News 从 2006 年起长达 19 年的数据全部下载下来,并且开源: https://github.com/heyppen/hn-dump

    SQLite 文件可以到 https://github.com/heyppen/hn-dump/releases 下载,但只包括 score ≥ 5 的 story ,数据截止到 2025.4.30 ,文件大小约 181 MB ,总共 135 万条记录,感兴趣的朋友可以自取,或者亲自下载一遍。

    顺便分享一个 Hacker News 在线实时 ClickHouse 官方数据库,详见: https://x.com/ipen_ink/status/1919664189251191296

    同时,tophn.co 也同步更新了总榜单( https://www.tophn.co/?tab=all )以及年度榜单(例如 https://www.tophn.co/?tab=2018 ),欢迎大家体验~


    16 条回复    2025-05-09 12:44:18 +08:00
    clemente
        1
    clemente  
       29 天前   ❤️ 1
    6666
    newdongyuwei
        2
    newdongyuwei  
       29 天前   ❤️ 1
    followad
        3
    followad  
       29 天前 via iPhone   ❤️ 1
    赞👍
    Pipecraft
        4
    Pipecraft  
       29 天前
    包含评论吗?怎么才有 181 MB ,这么少。
    hidev
        5
    hidev  
    OP
       29 天前 via iPhone   ❤️ 2
    @Pipecraft 不包括评论,而且存的字段比较少
    Pipecraft
        6
    Pipecraft  
       29 天前   ❤️ 1
    @hidev #5 网站做得不错。👍
    Patrick6
        7
    Patrick6  
       29 天前   ❤️ 1
    昨天刚从 X 看到,今天又在 v 站看到了哈哈
    iMusic
        8
    iMusic  
       29 天前   ❤️ 1
    hidev
        9
    hidev  
    OP
       29 天前 via iPhone
    @Patrick6 精准投放😂
    JJJLG
        10
    JJJLG  
       29 天前
    1
    mywaiting
        11
    mywaiting  
       29 天前   ❤️ 6
    Hacker News 的数据库很大程度算公开数据源,很多地方都有下载

    1 、官方 API 接口,使用 Firebase 提供,近乎实时更新数据 https://github.com/HackerNews/API

    2 、全量数据搜索接口,Algolia 提供,API 提供每 IP 每小时 1w 访问限制(等于无限制) https://hn.algolia.com/api

    3 、graphql API 。它将允许您在单个请求中获取所有评论、用户和帖子 https://hngraphql.fly.dev/graphql

    由于 HN 的数据本身就是公开的,爬虫抓取到本地意义不大
    ammeto
        12
    ammeto  
       29 天前   ❤️ 1
    赞👍
    punkerhyde
        13
    punkerhyde  
       29 天前   ❤️ 1
    66666666666666666
    hidev
        14
    hidev  
    OP
       29 天前 via iPhone   ❤️ 1
    @mywaiting 这里用的就是官方 API ,下载下来目的是可以做一些离线分析,比如词云,比如训练个 Hacker News LLM
    Akagi201
        15
    Akagi201  
       29 天前   ❤️ 2
    评论这么关键的数据没有啊? hn 主要价值就是评论啊
    hidev
        16
    hidev  
    OP
       29 天前 via iPhone
    @Akagi201 目前是以帖子为主,后面我跑个全量数据看看,估计会很大
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2803 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 06:03 · PVG 14:03 · LAX 23:03 · JFK 02:03
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.