Non-experts have long made important contributions to machine learning (ML) by contributing training data, and recent work has shown that non-experts can also help with feature engineering by suggesting novel predictive features. However, non-experts have only contributed features to prediction tasks already posed by experienced ML practitioners. Here we study how non-experts can design prediction tasks themselves, what types of tasks non-experts will design, and whether predictive models can be automatically trained on data sourced for their tasks. We use a crowdsourcing platform where non-experts design predictive tasks that are then categorized and ranked by the crowd. Crowdsourced data are collected for top-ranked tasks and predictive models are then trained and evaluated automatically using those data. We show that individuals without ML experience can collectively construct useful datasets and that predictive models can be learned on these datasets, but challenges remain. The prediction tasks designed by non-experts covered a broad range of domains, from politics and current events to health behavior, demographics, and more. Proper instructions are crucial for non-experts, so we also conducted a randomized trial to understand how different instructions may influence the types of prediction tasks being proposed. In general, understanding better how non-experts can contribute to ML can further leverage advances in Automatic machine learning and has important implications as ML continues to drive workplace automation.

中文翻译：

---

人工智能的民主化：预测任务的非专家设计

长期以来，非专家都通过提供训练数据为机器学习（ML）做出了重要贡献，最近的工作表明，非专家还可以通过建议新颖的预测特征来帮助进行特征工程。但是，非专家只能为经验丰富的机器学习从业人员已经提出的预测任务提供功能。在这里，我们研究非专家如何设计自己的预测任务，非专家将设计哪些类型的任务，以及是否可以针对为其任务提供的数据自动训练预测模型。我们使用众包平台，由非专家设计预测任务，然后由人群进行分类和排名。收集用于头等任务的众包数据，然后使用这些数据自动训练和评估预测模型。我们表明，没有ML学习经验的人可以集体构建有用的数据集，并且可以在这些数据集上学习预测模型，但是挑战仍然存在。由非专家设计的预测任务涵盖了广泛的领域，从政治和时事到健康行为，人口统计等等。正确的指令对非专家至关重要，因此我们还进行了一项随机试验，以了解不同的指令如何影响所建议的预测任务的类型。通常，更好地了解非专家如何为ML做出贡献可以进一步利用自动机器学习的进步，并且随着ML继续推动工作场所自动化而产生重要意义。由非专家设计的预测任务涵盖了广泛的领域，从政治和时事到健康行为，人口统计等等。正确的指令对非专家至关重要，因此，我们还进行了一项随机试验，以了解不同的指令如何影响建议的预测任务的类型。通常，更好地了解非专家如何为ML做出贡献可以进一步利用自动机器学习的进步，并且随着ML继续推动工作场所自动化而产生重要意义。由非专家设计的预测任务涵盖了广泛的领域，从政治和时事到健康行为，人口统计等等。正确的指令对非专家至关重要，因此，我们还进行了一项随机试验，以了解不同的指令如何影响建议的预测任务的类型。通常，更好地了解非专家如何为ML做出贡献可以进一步利用自动机器学习的进步，并且随着ML继续推动工作场所自动化而产生重要意义。因此，我们还进行了一项随机试验，以了解不同的指令如何影响所提出的预测任务的类型。通常，更好地了解非专家如何为ML做出贡献可以进一步利用自动机器学习的进步，并且随着ML继续推动工作场所自动化而产生重要意义。因此，我们还进行了一项随机试验，以了解不同的指令如何影响所提出的预测任务的类型。通常，更好地了解非专家如何为ML做出贡献可以进一步利用自动机器学习的进步，并且随着ML继续推动工作场所自动化而产生重要意义。