Een map met Parquet-bestanden doorzoeken met SQL

Mapconnector · Parquet-map

Converteer een map met Parquet-bestanden naar SQL-tabellen Je kunt overal een zoekopdracht uitvoeren.

Wijs de Query Streams Agent naar de map. Deze leest de bestanden op zijn eigen computer, bouwt de tabellen op in een lokale cache en houdt ze actueel naarmate bestanden binnenkomen, wijzigen of verdwijnen. U kunt de tabellen vervolgens opvragen vanuit Excel, Google Sheets, Nova, Claude of de REST API. Er wordt niets geüpload en geen enkel bestand wordt geconverteerd of bewerkt.

Ongeveer 15 minuten Geen programmeerkennis vereist De bestanden blijven op uw netwerk. Het gratis abonnement dekt het.

Wat je uiteindelijk overhoudt

Je krijgt uiteindelijk bijvoorbeeld één getypte SQL-tabel. bestandenset.bestellingen, die de rijen van elk Parquet-bestand in de map bevat, waarbij de kolomtypen worden gelezen uit de voetteksten van de bestanden en een _bronbestand Een kolom met de naam van het bestand waar elke rij vandaan komt. Er is geen Parquet-viewer nodig en u hoeft DuckDB niet zelf in te stellen. De agent leest de bestanden op de computer waarop deze draait, slaat de rijen daar in de cache op en serveert ze als SQL, zodat de bestanden op uw netwerk blijven.

Alles bevindt zich in één DuckDB-schema genaamd bestandenset, opgeslagen in de cache op de agentcomputer. De gegevenstabel gebruikt uw TabelnaamKolommen en gegevenstypen zijn afkomstig uit de Parquet-footers. Bestanden kunnen kolommen toevoegen of weglaten: de tabel bevat elke kolom die wordt aangetroffen, en een kolom die in een bestand ontbreekt, krijgt de waarde NULL.

Er is geen modus per lay-out voor Parquet: alle overeenkomende bestanden moeten dezelfde lay-out delen, en een kolom waarvan het type tussen de bestanden verschilt, blokkeert de verbinding. Elke mapconnector biedt u ook de mogelijkheid om... bestanden, bestanden_gebeurtenissen, mappen, map_snapshots en volumes, die een overzicht geven van de Parquet-bestanden zelf, hun wijzigingsgeschiedenis en de grootte van de mappen.

Waar het zijn nut bewijst:

• Exporteren van data in een data lake: een pipeline schrijft dagelijks Parquet-bestanden naar mappen per jaar en maand, waarna analisten deze bestanden als één tabel kunnen opvragen zonder een apart notebook.
• Vendor drops: een partner levert Parquet-extracten aan een gedeelde map, en u controleert het aantal rijen per bestand voordat u ze ergens anders laadt.
• Archiefopzoekingen: jarenlange Parquet-geschiedenis staat op een NAS, en één SQL-query beantwoordt een vraag waarvoor voorheen een script nodig was.

Wat je nodig hebt

Een Query Streams-account

Mapkoppelingen zijn beschikbaar in alle abonnementen, ook in het gratis abonnement. Het gratis abonnement is een abonnement dat je behoudt, geen proefperiode die verloopt. Er is geen limiet aan het aantal bestanden dat een map kan bevatten.

De Agent, versie 2.6.0 of later

Geïnstalleerd op een computer die de map kan openen: de bestandsserver zelf, een kantoorcomputer of de machine waarop de bestanden terechtkomen. Een oudere versie van Agent toont de mapkaarten grijs weergegeven met een Agent 2.6.0+ badge. Windows, Mac of Linux.

Het pad van de map, zoals de agent het ziet.

Een lokaal pad, of een netwerkshare die als volgt is geschreven: \\server\share\folder. The Agent runs as a service, so it cannot see drives you mapped at your login (Z: and friends). On Windows it can sign in to a share with a login you store; on Linux or a Mac, mount the share first (Linux under /mnt of /media, a Mac under /Volumes).

Stel het in vijf stappen in.

1. Installeer de agent op een computer die de map kan openen.

   Aanmelden, openen DownloadInstalleer de agent voor uw systeem op de computer die een map met Parquet-bestanden kan openen: de bestandsserver of een andere computer die altijd aan staat en de gedeelde map kan bereiken. Dit duurt een minuut en start daarna automatisch. U hebt versie 2.6.0 of hoger nodig; de meest recente versie is altijd beschikbaar op de downloadpagina.

   Waarom een klein programma in plaats van een driver? De agent is een eenmalige installatie voor Windows, Mac of Linux (ongeveer 85 MB op Windows, iets meer dan 100 MB op Mac en Linux). Het opent één versleutelde uitgaande verbinding met Query Streams en dat is het enige netwerkpad dat nodig is: geen inkomende poort om te openen, geen VPN. Het leest de bestanden in de map waarin het zich bevindt, waardoor de bestanden op hun plaats blijven en alleen de rijen die een query retourneert via internet naar de add-in, browser of AI-client aan uw kant worden verzonden.

   De downloadpagina toont Uw toegangssleutelPlak het in de Agent wanneer daarom wordt gevraagd en wacht tot de badge is weergegeven. Verbonden met querystreamsDat is het enige wat je op de computer van de agent doet; al het andere gebeurt in je browser.

   Complete walkthroughs zijn beschikbaar als je die wilt: Windows, Mac, Linux.

2. Wijs het programma naar een map met Parquet-bestanden.

   Ga terug naar uw browser Gegevens → GegevensagentenZoek de agent die je zojuist hebt geïnstalleerd en klik erop. Connector toevoegen knop. Open de Bestanden en mappen pil en kies de Parquet-map kaart. Weet je niet zeker welke kaart past? Kies Bestanden in een map In plaats daarvan: de agent neemt een steekproef van de map, benoemt de inhoud op een pagina 'Wat we hebben gevonden' en opent de juiste, vooraf ingevulde kaart voor u.

   De tovenaar rent Mappen → Controleren → Instellingen → Realm → Controleren. Op Mappen:

   Hoofdmappen

   One path per line, as the Agent’s computer sees it. Each folder shows a status (reachable, denied, missing, unreachable, credentials invalid or not mounted) as soon as you add it. On a Windows Agent a share that needs a login gets one from the folder’s Credential column, stored once per server; on Linux or a Mac, mount the share first.

   Scan submappen, maximale diepte

   Aan, en standaard 8 niveaus.

   Patronen opnemen, patronen uitsluiten

   Welke bestanden tellen mee? Het include-patroon begint met de juiste glob voor deze kaart. Eén connector leest één bestandstype: een map met CSV-bestanden. en Parquet-bestanden hebben twee connectors in dezelfde map, één per bestandstype.

   Volg symbolische links en junctions

   Standaard uitgeschakeld. De agent volgt geen snelkoppelingen of cloud-placeholders, tenzij u deze functie inschakelt.

   Begin bij de Connector toevoegen knop van een agent waarmee de map kan worden geopend. Openen Bestanden en mappen en klik op de Parquet-map kaart.

   • Hoofdmappen: één map per regel, zoals paden op de agentcomputer. Typ een netwerkshare als \\server\share\folder, niet als een toegewezen stationsletter.
   • Voeg patronen toe begint als **/*.parket. Submappen scannen is aan de gang met Maximale diepte 8, dus gepartitioneerde mapstructuren worden gelezen.
   • Typ a Tabelnaam, Bijvoorbeeld bestellingenDit is vereist op deze kaart.
   • Er is geen Tabelindeling keuze. Een toelichting legt uit dat alle overeenkomende bestanden dezelfde lay-out moeten hebben, dat de eerste synchronisatie deze vastlegt aan de hand van een voorbeeld, en dat bestanden die later afwijken, apart worden gezet en gerapporteerd.

3. Bekijk wat het zal bouwen

   Op Rekening De agent leest een voorbeeld van maximaal 64 bestanden en laat zien wat er gebouwd zal worden. Er is nog niets aangemaakt. De knop geeft de volgende tekst weer: Testverbinding totdat er een vonnis is, dan Volgende; Test opnieuw Het voorbeeld wordt opnieuw uitgevoerd nadat u iets hebt gewijzigd. U ziet dan een van de vier volgende kopteksten:

   Klaar om te creëren

   Elk geselecteerd bestand past. De chips eronder geven aan hoeveel mappen bereikbaar waren, hoeveel bestanden en rijen er waren en welke tabellen er aanwezig waren.

   Klaar, met aantekeningen.

   Sommige bestanden worden opzijgezet, of de lay-outcontrole wordt geweigerd. Een oranje banner geeft precies aan welke: "{n} van {m} bestand(en) worden opzijgezet" met een Geef aan welke bestanden het betreft en waarom. lijst, en "Je kunt het sowieso aanmaken - de connector blijft controleren en rapporteert de reden op het tabblad Manifest."

   Vereist aandacht

   De agent is offline of er ontbreekt een map. Los dit op voordat u verdergaat; als de agent offline is, wordt dit wel aangegeven, maar kunt u toch verdergaan.

   Een weigering of het terzijde leggen van bestanden blokkeert je nooit: klik hier. VolgendeVoltooi de wizard en repareer de afwijkende bestanden later. Alleen een offline agent of een ontbrekende map stopt de wizard.

   Op RekeningDe agent neemt maximaal 64 bestanden als steekproef en toont het aantal bestanden, de grootte, de geschatte rijgrootte en de tabel die zal worden opgebouwd. Er wordt nog niets aangemaakt. De gegevenstypen moeten in de steekproef overeenkomen; de agent selecteert nooit op basis van meerderheid. Als twee bestanden verschillen in een kolomtype, wordt de koptekst weergegeven. Klaar, met aantekeningen. En de amberkleurige banner toont "De schema-analyse is geweigerd: {reden}", met de naam van het bestand dat het niet eens is. Je kunt de connector desondanks aanmaken. Hij blijft controleren en toont de reden op zijn banner. Manifest Tik op de tabtoets totdat je het bestand hebt gecorrigeerd of uitgesloten.

4. Kies hoe vaak er gescand moet worden en maak het vervolgens aan.

   De standaardinstellingen op Instellingen Geschikt voor een map die dagelijks een paar bestanden ontvangt. Vier zaken die je wellicht wilt wijzigen:

   Scaninterval

   Elk uur Standaardinstelling; kies een frequentie van elke 5 minuten tot dagelijks. Elke scan vergelijkt de grootte en de wijzigingstijd om nieuwe, gewijzigde en verdwenen bestanden te vinden.

   Houd de map in de gaten voor wijzigingen (vrijwel in realtime).

   Standaard uitgeschakeld. Ingeschakeld reageert de agent binnen enkele seconden op lokale schijven; op netwerkshares werkt deze naar beste vermogen en blijft de geplande scan de garantie. Rustperiode (15 seconden) wacht tot het schrijven van een bestand is voltooid.

   Vernieuw de pagina voordat u een vraag beantwoordt.

   Standaard uitgeschakeld. In deze stand wordt een zoekopdracht eerst opnieuw uitgevoerd als de laatste scan ouder is dan de ingestelde waarde. Verouderingsvenster (60 seconden), wachtend op maximaal de Wachtlimiet voor query's (5 seconden). Dit geldt voor personen en invoegingen, niet voor het peilen van waarschuwingen.

   Wanneer een bestand verdwijnt

   Verwijder de rijen standaard, of Behoud rijen, markeer verwijderd (grafsteen)De Verdwijningspercentage (0.5) weigert een scan die meer dan de helft van de bestanden tegelijk verliest en behoudt de vorige inventaris, wat overeenkomt met hoe een offline gedeelde map eruitziet.

   Kies vervolgens de Gegevensrijk Het aantal rijen telt mee, controleer Beoordeling en klik Connector makenDe eerste scan start direct. De connector Manifest Het tabblad laat zien wat er is gebouwd en welke bestanden er zijn opgeslagen.

5. Kijk naar je tafels

   Open de connector: de Manifest Het tabblad toont de tabellen die zijn aangemaakt. In de Querybouwer dezelfde tafels staan onder de bestandenset schema. Drie query's die vanaf dag één werken:

   Hoeveel rijen elk Parquet-bestand toevoegt

   SELECT _source_file, COUNT(*) AS row_count, MAX(_row_id) AS last_row_id FROM fileset.orders GROUP BY _source_file ORDER BY row_count DESC LIMIT 100

   Toont elk onderdeelbestand achter de tafel en hoeveel elk bestand bijdraagt.

   Mappen indelen op grootte en meest recente bestand

   SELECT path, subtree_file_count, subtree_bytes, newest_file_utc FROM fileset.directories ORDER BY newest_file_utc DESC LIMIT 100

   Geeft aan welke partitiemappen het meest recent bestanden hebben ontvangen en hoe groot elke map is geworden.

   Is er een bestand geweigerd of opzijgelegd, en waarom?

   SELECT relative_path, event_type, detected_by, detail, event_at FROM fileset.files_events WHERE event_type IN ('refused', 'drift') ORDER BY event_at DESC LIMIT 20

   Een geweigerde rij betekent dat er geen lay-out kon worden vastgezet; een afwijkende rij verwijst naar een bestand waarvan de rijen zijn weggelaten.

   Elke mapconnector bedient ook dezelfde boekhoudtabellen, allemaal in de bestandenset schema:

   Tafel	Wat het bevat
   bestanden	Elk bestand dat zich momenteel in de map bevindt: pad, naam, extensie, grootte, aanmaak- en wijzigingsdatum, eerste en laatste keer gezien. Een overzicht van bestanden_huidig, die ook bestanden bewaart die verdwenen zijn.
   bestanden_gebeurtenissen	De wijzigingsgeschiedenis: één regel per bestand dat verscheen, was gewijzigd, verdwenen, werd opzijgezet (drift) of was geweigerd, met de tijd in event_athoe het werd opgemerkt in gedetecteerd_door en de reden in detail.
   mappen, map_snapshots, volumes	Het aantal mappen en hun grootte, hoe ze zijn gegroeid en op welke schijven of gedeelde mappen de wortels voortleven.
   _bronbestand, _rij_id	Elke gegevensrij bevat twee kolommen: het bestand waar de rij vandaan komt en een stabiele rij-ID binnen dat bestand. Groeperen op _bronbestand om bestanden te vergelijken.

Reaching a file on a network share

The Agent opens files as a background service, not as you, so a file on another computer needs one extra step. Which step depends on the computer the Agent runs on.

If the test cannot get to the share, look for these words in its result: unreachable means the Agent’s computer got no answer from the server. On Linux or a Mac, not mounted means the share still has to be mounted, and that message includes the exact mount command for your server.

When a folder is not reachable

Every folder on the Mappen step shows a status as soon as you add it. Hover the status to read the Agent’s own message; its first words say which case it is.

Gebruik het overal

De connector is een gegevensbron, net als elke andere in Query Streams. Sla een query eenmaal op in de Querybouwer (het dialect is DuckDB) en gebruik het vanuit:

Excel

De add-ons Een query streamen De rijen worden in een spreadsheet geplaatst en met een muisklik opnieuw uitgevoerd. SQL-query's uitvoeren in Excel.

Google formulieren

De Query Streamer De add-on vult een tabblad dat je selecteert. Power Query voor Google Sheets.

Claude, Cursor en andere AI-clients

Via de Query Streams MCP-server kent Claude het mapmodel, inclusief _bronbestand en bestanden_gebeurtenissen. Parquet-map met Claude via MCP.

REST API

Elke opgeslagen query wordt een alleen-lezen eindpunt met een eigen sleutel, in elk plan. Parquet-map REST API.

Nova

Stel uw vragen in begrijpelijke taal over het bedrijfsplan; Nova kent elke map, tabel en kolom dankzij de ingebouwde beschrijvingen.

Automatiseringen

Synchroniseer de rijen met Airtable, Smartsheet, Baserow, SeaTable of een spreadsheet volgens een planning. Automatiseringshandleidingen.

Maptabellen kunnen ook gekoppeld worden aan uw andere connectors: een gefedereerde query kan overeenkomsten vinden. _bronbestand namen of order-ID's in een map met Parquet-bestanden vergelijken met een database op dezelfde agent.

Hoe nieuwe, gewijzigde en verwijderde bestanden worden weergegeven

Bestanden die apart zijn gezet.

Op de stap 'Controleren' en het tabblad 'Manifest' staan drie woorden. Ze hebben verschillende betekenissen:

Aan de kant zetten (parkeren)

Het bestand komt niet overeen met de vastgezette lay-out, of is onleesbaar, beschadigd, vergrendeld of te groot. Het is alles of niets per bestand: een geparkeerd bestand draagt nul rijen bij. bestanden_gebeurtenissen records een drift rij waarvan detail De bestandsnaam en de kolomnaam worden doorgegeven. Het bestand wordt overgeslagen zolang de grootte en de wijzigingstijd hetzelfde blijven, en opnieuw geprobeerd zodra deze wijzigen.

Onleesbaar

De agent kon het bestand niet openen of verwerken vanwege het type: geen echt werkblad, vergrendeld door een ander programma, een cloud-placeholder, onleesbare bytes. Het bestand wordt automatisch afgesloten en de rest van de map wordt wel verwerkt. Alleen een map met nul leesbare bestanden weigert de volledige set.

Geweigerd

De agent kon geen enkele lay-out vastzetten, bijvoorbeeld omdat bestanden het niet eens waren over een kolomtype. Er bestaat nog geen gegevenstabel. bestanden_gebeurtenissen krijgt een geweigerd rij met de reden in detailEn de agent probeert het bij elke scan opnieuw totdat een lay-out wordt vastgezet. Corrigeer of sluit het bestand uit dat wordt genoemd en de melding verdwijnt.

Waar te kijken: de amberkleurige banner op Rekening (Geef aan welke bestanden het betreft en waarom.), de connector Manifest tab daarna. In SQL: SELECT relative_path, event_type, detail FROM fileset.files_events WHERE event_type IN ('drift','refused') ORDER BY event_at DESC.

Grenzen die het waard zijn om te kennen

Er is geen limiet aan het aantal mappen of bestanden in het abonnement. De rijen tellen wel mee voor uw Data Realm, net als bij elke andere connector. U kunt de standaardinstellingen van de connector verhogen of verlagen:

Inhoudslimieten, die een bestand parkeren in plaats van het te verkleinen: 2.000.000 rijen of 512 MiB per bestand, 10.000.000 rijen of 2 GiB per scan. Een map kan maximaal 25 verschillende lay-outs bevatten. Eén tafel per lay-out modus.

Vragen die mensen stellen

• Bestandssysteem
• CSV-map
• Excel-map
• SQLite-map
• JSONL-map
• CSV-bestand met meerdere records
• Machinelogboeken
• Webserverlogboeken
• Containerlogboeken
• Toepassingslogboeken
• Systeemlogboeken
• Aangepaste logboeken